\input{preamble}

\title{21 - REELLE INDREPRODUKTROM}

%isolert

\begin{document}
\pagenumbering{gobble}

\maketitle

I forrige uke studerte vi en matrise $A$
med ortogonale kolonner, 
og vi oppdaget systemet
\[
\begin{pmatrix}
1 & 1 & 1  \\
0 & -\sqrt{2} & \sqrt{2}  \\
-1 & 1 & 1 
\end{pmatrix}
\begin{pmatrix}
c_1  \\
c_2\\
c_3
\end{pmatrix}
=
\begin{pmatrix}
-1  \\
0\\
-7
\end{pmatrix}
\]
enkelt kunne løses ved å redusere til et diagonalt system 
ved å gange med  $A^T$ fra venstre:
\[
\begin{pmatrix}
2 & 0 & 0  \\
0 & 4 & 0  \\
0 & 0 & 4 
\end{pmatrix}
\begin{pmatrix}
c_1  \\
c_2\\
c_3
\end{pmatrix}
=
\begin{pmatrix}
1 & 0 & -1  \\
1 & -\sqrt{2} & 1  \\
1 & \sqrt{2} & 1 
\end{pmatrix}
\begin{pmatrix}
-1  \\
0\\
-7
\end{pmatrix}
\]
og så invertere diagonalmatrisen på venstre side,
slik at 
\[
\begin{pmatrix}
c_1  \\
c_2\\
c_3
\end{pmatrix}
=
\begin{pmatrix}
\frac{1}{2} & 0 & 0  \\
0 & \frac{1}{4} & 0  \\
0 & 0 & \frac{1}{4} 
\end{pmatrix}
\begin{pmatrix}
1 & 0 & -1  \\
1 & -\sqrt{2} & 1  \\
1 & \sqrt{2} & 1 
\end{pmatrix}
\begin{pmatrix}
-1  \\
0\\
-7
\end{pmatrix}
=
\begin{pmatrix}
3  \\
-2\\
-2
\end{pmatrix}
\]
Her har vi regnet ut at punktet med koordinater $(-1,0-7)$
%\[
%\begin{pmatrix}
%-1  \\
%0\\
%-7
%\end{pmatrix}
%\]
i standardbasisen for $\mathbb R^3$ har koordinater $(3,-2-2)$
%\[
%\begin{pmatrix}
%3  \\
%-2\\
%-2
%\end{pmatrix}
%\]
i den ortogonale basisen gitt ved kolonnene i $A$:
\[
\begin{pmatrix}
1 & 1 & 1  \\
0 & -\sqrt{2} & \sqrt{2}  \\
-1 & 1 & 1 
\end{pmatrix}
\begin{pmatrix}
3  \\
-2\\
-2
\end{pmatrix}
=
3
\begin{pmatrix}
1   \\
0   \\
-1
\end{pmatrix}
-2
\begin{pmatrix}
 1 \\
 -\sqrt{2}  \\
 1 
\end{pmatrix}
-2
\begin{pmatrix}
1  \\
 \sqrt{2}  \\
1 
\end{pmatrix}
=
\begin{pmatrix}
-1  \\
0\\
-7
\end{pmatrix}
\]

\begin{oppgave}{1}
Mer generelt gjelder at 
\[
\V x = \sum_k \frac{\V x \cdot \V v_k}{\V v_k \cdot \V v_k}\V v_k
\]
dersom $\V x$ ligger i rommet utspent av de ortogonale vektorene $\V v_1, \V v_2, \cdots,\V v_n$.
Hvis du ikke ser at dette er \say{det samme},
kan du prøve å regne ut $\mathbf c$ i eksemplet over ved denne formelen.
Hvis det er innlysende for deg at det er det samme, 
kan du går videre. 
\end{oppgave}

\begin{center}
\includegraphics[scale=.18]{../figurer/L1012257-Pano}
\end{center}

Vi viste formelen
\[
\V x = \sum_k \frac{\V x \cdot \V v_k}{\V v_k \cdot \V v_k}\V v_k
\]
 ved å anta
\[
\V x = \sum_k c_k \V v_k,
\]
ta skalarproduktet med $\V v_m$ på hver side
og bruke ortogonaliteten, 
slik at 
\[
\V x \cdot \V v_m= c_m \V v_m \cdot \V v_m.
\]
Repeterer man dette for alle $m$ får man formelen over.

\begin{oppgave}{2}
Du har i bunn og grunn gjort det samme resonnementet i økt 17.
Gå tilbake og finn det.
\end{oppgave}

For at det skal komme enda tydeligere frem hvor dette bærer, 
kan du 

\begin{oppgave}{3}
regne ut 
\[
\int_{-\pi}^\pi \sin(mt)\sin(nt)\; dt
\quad \text{og} \quad
\int_{-\pi}^\pi \sin(mt)\cos(nt)\; dt
\quad \text{og} \quad
\int_{-\pi}^\pi \cos(mt)\cos(nt)\; dt
\]
for alle $m,n \in \mathbb N$
\end{oppgave}

og vise at 

\begin{oppgave}{4}
dersom 
\begin{equation*}
x(t) = a_0 + \sum_{n=1}^{\infty} a_n \cos n t+b_n \sin nt
\end{equation*}
er
\[
a_0=\frac{1}{2\pi}\int_{-\pi}^\pi x(t)\; dt \hspace{10mm}
a_n=\frac{1}{\pi}\int_{-\pi}^\pi x(t)\cos  n t\; dt  \hspace{10mm}
b_n=\frac{1}{\pi}\int_{-\pi}^\pi x(t)\sin nt\; dt
\]
\end{oppgave}

\begin{center}
\includegraphics[scale=.29]{../figurer/L1017803}
\end{center}


Et vektorrom kan være utstyrt med noe som kalles \textbf{indreprodukt}. 
Dette er noe som tar inn to vektorer 
og gir ut et tall som forteller noe interessant om forholdet mellom dem,
og det finnes selvfølgelig aksiomer. 
La  $\V x$, $\V y$ og $\V z$ være vektorer, 
og $a$ og $b$ relle tall.
Et indreprodukt er  \textbf{symmetrisk}:
\[
(\V x, \V y)=(\V y, \V x)
\]
\textbf{positivt definitt}:
\[
(\V x, \V x)>0 \quad \text{dersom} \quad   \V x\neq \V 0,
\]
og \textbf{lineært i første faktor}:
\[
(a\V x+b\V y,\V z )= a (\V x, \V z)+ b (\V y, \V z) 
\]

La oss begynne med en litt traust og kjedelig konsekvens:

\begin{oppgave}{5}
Vis at indreproduktet er lineært også i andre faktor.
\end{oppgave}


De to mest elementære indreproduktene er 
\[
(\mathbf x,\mathbf y)=\mathbf x\cdot \mathbf y=\mathbf x^T\mathbf y=x_1y_1+x_2y_2+\cdots+x_ny_n
\]
og
\[
(x,y)=\int_a^b x(t)y(t)\; dt
\]
der $x$ og $y$ er funksjoner fra $[a,b]$ til $\mathbb R$.
Inntil videre er det disse to vi trenger, 
men det finnes mange andre indreprodukter.
Dette kommer vil tilbake til.  


\begin{oppgave}{6}
Vis at disse er reelle indreprodukter.
\end{oppgave}

Indreproduktet er en generalisering av 
skalarproduktet.
Vi skriver likeledes $\|\mathbf x\|=\sqrt{(\mathbf x, \mathbf x)}$,
og sier at vektorer er ortogonale dersom indreproduktet mellom dem er null. 
Det viser seg at mange av tingene vi utledet i forrige uke, 
kan utledes bare med de tre aksiomene over.
I forrige uke skrev vi opp skalarproduktet i 
 $\mathbb R^2$
\[
\mathbf x \cdot \mathbf y = 
x_1y_1+x_2y_2
\]
og utledet Pytagoras' setning, 
som sier at 
$\V x$ og $\V y$ er ortogonale hvis og bare hvis
\[
\|\V x+\V y\|^2=\|\V x\|^2+\|\V y\|^2
\]

\begin{oppgave}{6}
Utled denne på nytt, 
men bruk bare aksiomene for indreprodukt.
\end{oppgave}

\begin{center}
\includegraphics[scale=.23]{../figurer/L1018563}
\end{center}


%og viste det ved å beregne at
%\[
%\|\V x+\V y \|^2=\|\V x\|^2 +2\V x\cdot\V y+\|\V y\|^2
%\]
%og så observere at vi på den ene side 
%kan trekke fra denne 
%\[
%\|\V x+\V y\|^2=\|\V x\|^2+\|\V y\|^2
%\]
%fra likningen over
%og se at
%\[
%2\V x\cdot\V y=0,
%\]
%og på den andre side observere at dersom $\V x\cdot\V y=0$, får vi
%\[
%\|\V x-\V y\|^2=\|\V x\|^2+\|\V y\|^2.
%\]
%Hvis du nå ser på denne utledningen, 
%så vil du se at det er ingenting spesielt med $\mathbb R^2$ her,
%argumentet fungerer like godt i $\mathbb R^3$ eller $\mathbb R^5$ eller $\mathbb R^9$.

Følgende oppgave har du allerede gjort for skalarprodukt,
men vi gjør den med abstrakt indreprodukt óg,
for å komme inn i tankegangen og notasjonen og så videre.

\begin{oppgave}{7}
Bruk likeledes aksiomene for indreprodukt til å 
vise at dersom $\{\mathbf v_1, \mathbf v_2, \cdots, \mathbf v_n\}$ 
er en ortogonal vektormengde og 
\[
\mathbf x = \sum_{k=1}^n c_k \mathbf v_k 
\hspace{10mm}
\text{er}
\hspace{10mm}
c_k=\frac{(\mathbf x,\mathbf v_k)}{(\mathbf v_k,\mathbf v_k)}.
\]
\end{oppgave}

Når du i økt 17  ønsket å skrive $x(t)x$ som en uendelig sum av sinusfunksjoner,
gjorde du i prinsippet samme beregning som i oppgaven over. 
Du utledet først at 
\begin{align*}
& \int_{-\pi}^{\pi}  \sin (nt) \sin (mt) \;dt=
  \begin{cases}
      \pi/2  & \text{for } n = m \\
      0 & \text{for } n \neq m
    \end{cases} 
\end{align*}
for alle $n,m \in \mathbb N$,
og så brukte du dette da du ganget 
\[
x(t) = \sum_{n=1}^\infty b_n \sin nt
\]
med $\sin mt$ og integrerte fra $-\pi$ til $\pi$.
Forskjellen er at vektorrommet av alle sinusfunksjoner
har uendelig mange dimensjoner,
og da er det noen ting som blir litt vanskeligere. 
Dette illustrerer forskjellen på stringente og heuristiske bevis - 
oppgave 7 går greit å få til med den verktøykassen du har, 
mens i utledningen av fourierkoeffisientene må vi nøye oss med 
å \say{skjønne ideen}. 
Se ukens nøtter om du er nysgjerrig. 

Dersom $\{\mathbf v_1, \mathbf v_2, \cdots, \mathbf v_n\}$ er en ortogonal vektormengde
og i tillegg $\|\V v_k\|=1$ for alle $k$,
sier vi at vektormengden er \textbf{ortonormal}.
Pytagoras' regel kan skrives opp på en litt annen måte, 
og da kalles den gjerne \textbf{Parsevals sats}:

\begin{oppgave}{8}
Vis at dersom $\{\mathbf v_1, \mathbf v_2, \cdots, \mathbf v_n\}$ 
er en ortonormal vektormengde og
\[
\mathbf x = \sum_{k=1}^n c_k \mathbf v_k 
\hspace{10mm}
\text{er}
\hspace{10mm}
(\mathbf x, \mathbf x)=\sum_{k=1}^n c_k^2,
\]
og tegn en figur som illustrerer denne i $\mathbb R^2$.
\end{oppgave}

\begin{center}
\includegraphics[scale=.14]{../figurer/img20210415_17422544}
\end{center}


\begin{minipage}{120mm}
%\[
Indreproduktet $(\mathbf y,\mathbf x)$ forteller som sagt
noe om $\mathbf x$ sin  komponent i retningen til $\mathbf y$.
La oss si at $\V x$ og $\V y$ i figuren over er en basis for et rom,
og så vil du ha en ortogonal basis for det samme rommet. 
Da kan du rette ut $\V x$ litt. 
%\hspace{-2cm}\text{Vis at} \quad \V z=\frac{\V y \cdot \V x}{\V y \cdot \V y}\V y \quad \text{i denne figuren:}
%\]
\end{minipage}
\begin{minipage}{4cm}
\begin{center}
\begin{tikzpicture}[scale=.42]
\draw[-latex,thick] (0,0) -- (7,1);
\draw[-latex,thick] (0,0) -- (3,3);
\draw[-latex, thick,red] (0,0) -- (24/50*7,24/50*1);
\draw[-,thick] (24/50*7,24/50*1) -- (3,3);
\draw[-]  (24/50*7-1/7,24/50*1+1-1/77) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\draw[-]  (24/50*7+1,24/50*1+1/7) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\node[anchor=east] at (7,2) {\footnotesize $\V{y}$};
\node[anchor=south] at (3.5,3) {\footnotesize $\V{x}$};
\node[anchor=east,red] at (3,-.5) {\footnotesize $\V z$};
%\node[anchor=west] at (4.0,3) {\footnotesize $\V y-\V u$};
%\node[anchor=east] at (2.9,2) {\footnotesize $\theta$};
%\draw (2.5,.4) arc (8:55:3);
%\foreach \x in {-4,-3,-2,-1,1,2,3,4,5,6}
%\draw (\x,5pt) -- (\x,-5pt);
%\filldraw (9,6) circle [radius=3pt] node[anchor=north] {$A \V{v}$};
%\draw[->,shorten <=4pt,shorten >=4pt] (3,2) to[bend left=20] (9,6);
\end{tikzpicture}
\end{center}
\end{minipage}




\begin{oppgave}{9}
Tegn vektoren 
\[
\V w = \V x - \V z = \V x -  \frac{\V y \cdot \V x}{\V y \cdot \V y}\V y
\]
inn i figuren over og vis at denne er ortogonal på $\V y$.
\end{oppgave}

Ideen over er grunnlaget for noe som kalles Gram-Schmidts metode:\\
\url{https://en.wikipedia.org/wiki/Gram–Schmidt_process}\\
Dette er en smart teknikk for å skaffe seg en ortogonal basis dersom 
basisen man har ikke er det.

\begin{oppgave}{10}
Finn en ortogonal basis for kolonnerommet til 
\[
\begin{pmatrix}
2&1&1&2\\
1&0&1&1\\
1&-2&1&-1\\
0&1&1&1
\end{pmatrix}
\]
Hvis du er barsk, 
kan du skrive en pythonrutine for dette.
\end{oppgave}

\begin{oppgave}{11}
Gram-Schmidt
polynomene $\{1,x,x^2,\cdots\}$. 
Dersom du gjør det riktig, 
skal du få ut legendrepolynomene:\\
\url{https://en.wikipedia.org/wiki/Legendre_polynomials}\\
Disse får vi bruk for senere i semesteret.
\end{oppgave}

Vi sier forvirrende nok at en matrise er ortogonal dersom kolonnene er ortonormale:\\
\url{https://en.wikipedia.org/wiki/Orthogonal_matrix}\\
Matrisen
\[
A=
\begin{pmatrix}
1 & 1 & 1  \\
0 & -\sqrt{2} & \sqrt{2}  \\
-1 & 1 & 1 
\end{pmatrix}
\]
har ikke ortonormale kolonner, 
men om du skalerer dem litt, 
får du en ortonormal matrise:
\[
B=
\frac{1}{2}
\begin{pmatrix}
\sqrt{2} & 1 & 1  \\
0 & -\sqrt{2} & \sqrt{2} \\
-\sqrt{2} & 1 & 1 
\end{pmatrix}
\]

\begin{oppgave}{12}
Hva skjer om du ganger $B$ med $B^T$?
\end{oppgave}

\begin{center}
\includegraphics[scale=.22]{../figurer/L1018405-HDR}
\end{center}

Helt riktig, for ortogonale matriser er $B^{-1}=B^T$. 
Ortogonale matriser roterer vektorer:\\
\url{https://en.wikipedia.org/wiki/Rotation_matrix}\\
og mengden av alle ortogonale $n\times n$-matriser 
kalles den \textbf{spesielle ortogonale gruppen}, $SO(n)$. 
Dette er et eksempel på noe som kalles en Lie-gruppe,
etter den norske matematikeren Sophus Lie:
\footnote{Sophus Lie leverte seriøse bidrag til forståelsen av differensiallikninger,
men det er kompliserte greier. Jeg skjønner ingenting av det.}\\
\url{https://en.wikipedia.org/wiki/Sophus_Lie}



\begin{minipage}{120mm}
\begin{oppgave}{13}
Skriv en pythonrutine som roterer $x\in \mathbb R^3$ $\theta$ radianer om $y$.\\
(Hint: Projiser $x$ på $y$, lag en gunstig ortonormal basis og bruk todimensjonal rotasjon.)
\end{oppgave}
\end{minipage}
\begin{minipage}{4cm}
\vspace{8mm}
\begin{center}
\begin{tikzpicture}[scale=.42]
\draw[-latex,thick] (0,0) -- (7,1);
\draw[-latex,thick] (0,0) -- (3,3);
\draw[-latex, thick,red] (0,0) -- (24/50*7,24/50*1);
\draw[-latex, thick,blue] (0,0) -- (-24/50*.8,24/50*5.6);
\draw[-,thick] (24/50*7,24/50*1) -- (3,3);
\draw[-]  (24/50*7-1/7,24/50*1+1-1/77) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\draw[-]  (24/50*7+1,24/50*1+1/7) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\node[anchor=east] at (7,2) {\footnotesize $\V{y}$};
\node[anchor=south] at (3.5,3) {\footnotesize $\V{x}$};
\node[anchor=east,red] at (3,-.5) {\footnotesize $\V z$};
\node[anchor=east,blue] at (-.5,1) {\footnotesize $\V x -\V z$};
%\node[anchor=west] at (4.0,3) {\footnotesize $\V y-\V u$};
%\node[anchor=east] at (2.9,2) {\footnotesize $\theta$};
%\draw (2.5,.4) arc (8:55:3);
%\foreach \x in {-4,-3,-2,-1,1,2,3,4,5,6}
%\draw (\x,5pt) -- (\x,-5pt);
%\filldraw (9,6) circle [radius=3pt] node[anchor=north] {$A \V{v}$};
%\draw[->,shorten <=4pt,shorten >=4pt] (3,2) to[bend left=20] (9,6);
\end{tikzpicture}
\end{center}
\end{minipage}


\section*{UKENS NØTTER}



\begin{minipage}{120mm}
I forrige uke utledet du Cauchy-Schwarz' ulikhet
\[
|\V x \cdot \V y|\leq \|\V x\|\|\V y\|
\]
basert på det geometrisk åpenbare at $|a| \leq \|\V x\|$ i denne figuren:
\end{minipage}
\begin{minipage}{4cm}
\vspace{8mm}
\begin{center}
\begin{tikzpicture}[scale=.42]
\draw[-latex,thick] (0,0) -- (7,1);
\draw[-latex,thick] (0,0) -- (3,3);
\draw[-, thick,red] (0,0) -- (24/50*7,24/50*1);
\draw[-,thick] (24/50*7,24/50*1) -- (3,3);
\draw[-]  (24/50*7-1/7,24/50*1+1-1/77) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\draw[-]  (24/50*7+1,24/50*1+1/7) -- (24/50*7+1-1/7,24/50*1+8/7-1/77);
\node[anchor=east] at (9,1.2) {\footnotesize $\V{y}$};
\node[anchor=south] at (3.5,3) {\footnotesize $\V{x}$};
\node[anchor=east,red] at (3,-.5) {\footnotesize $a$};
%\node[anchor=west] at (4.0,3) {\footnotesize $\V y-\V u$};
%\node[anchor=east] at (2.9,2) {\footnotesize $\theta$};
%\draw (2.5,.4) arc (8:55:3);
%\foreach \x in {-4,-3,-2,-1,1,2,3,4,5,6}
%\draw (\x,5pt) -- (\x,-5pt);
%\filldraw (9,6) circle [radius=3pt] node[anchor=north] {$A \V{v}$};
%\draw[->,shorten <=4pt,shorten >=4pt] (3,2) to[bend left=20] (9,6);
\end{tikzpicture}
\end{center}
\end{minipage}


\begin{oppgave}{1}
Cauchy-Schwarz gjelder i generelle indreproduktrom,
men det er litt mer jobb å vise. 
Prøv.
\end{oppgave}

Det er ikke innlysende at det går bra å bytte om på integrasjon og uendelig sum, 
og derfor vil utledningen av fourierkoeffisientene fra økt 17 heller ikke 
klassifisere som et ordentlig bevis. 

\begin{oppgave}{2}
La 
$
f_n(t)=n t\left(1-t^2\right)^n.
$
Finn 
\[
\lim_{n\to \infty}f_n(t)
\]
for $0\leq t\leq 1$,
og regn ut både 
\[
\lim_{n\to \infty}\int_0^1 f_n(t)\; dt
\hspace{10mm}
\text{og}
\hspace{10mm}
\int_0^1 \lim_{n\to \infty}f_n(t)\; dt
\]
\end{oppgave}


\begin{center}
\includegraphics[scale=.38]{../figurer/img715}
\end{center}


\end{document}
