\input{kapittel}

%\begin{figure}[htbp]
%  \begin{center}
%      \vspace*{-2.4cm}
%	\includegraphics[scale=.39]{eks_8_1}
%    \vspace*{-2.4cm}
%	\end{center}
%\end{figure}

\kapittel{4}{Abstrakt lineæralgebra}

I forrige semester lærte vi å løse lineære likningssystemer på en systematisk måte.
Men det er ikke nødvendigvis prosessen med å løse likningssystemene som er viktigst.
Dette kan en datamaskin gjøre på hundrevis av forskjellige måter. 
Det som er viktig for oss, 
er selve vektorregningen. 
Vektorrom er en algebraisk struktur som er oppfunnet med tanke på systematisering av vektorregning. 
Det er nemlig mange ting som ikke ser ut som vektorregning ved første øyekast, 
men som oppfører seg slik allikevel. 


\section*{\huge Motivasjon}

La oss begynne med 

\begin{tcolorbox}[colback=green!10, title=Det første store spørsmålet]
Hva er en vektor? 
\end{tcolorbox}

\noindent Svaret på dette spørsmålet avhenger av hvem du spør. 
Noen vil si at det er en pil med lengde og retning som kan brukes til å beskrive for eksempel fart. 
Noen vil si at det er en liste med tall. 
En matematiker vil si at det er noe som tilfredsstiller aksiomene for vektorrom, 
mens en ingeniør vil kanskje si at det er noe du ikke trenger bry deg særlig med så lenge du forstår superposisjonsprinsippet. 
Alle har rett. 

Vektorromskonseptet har som formål å binde sammen ting som ser forskjellig ut, 
men som oppfører seg veldig likt på noen måter. 
Her kommer et eksempel.
La oss ta følgende vektor i $\mathbb{R}^2$:
\[
\mathbf{x}
=
\begin{pmatrix}
x_1\\
x_2 
\end{pmatrix}
\]
og skrive den slik:
\[
\mathbf{x}
=
x_1
\begin{pmatrix}
1\\
0 
\end{pmatrix}
+
x_2
\begin{pmatrix}
0\\
1
\end{pmatrix}
\]
Du kan tenke på  $\mathbb{R}^2$ som alle lineærkombinasjoner av disse to vektorene.
Løsningene til
\[
\ddot{x}+x=0
\]
er likeledes alle lineærkombinasjoner på formen
\[
x(t)=c_1 \cos t + c_2\sin t.
\]
Disse to mengdene likner i den forstand at begge består av alle lineærkombinasjoner av to ting. 

\begin{tcolorbox}[colback=blue!10, title=Den folkelige definisjonen]
Et vektorrom er alle lineærkombinasjoner av en lineært uavhengig vektormengde.
\end{tcolorbox}

La oss ta et spørsmål til.

\begin{tcolorbox}[colback=green!10, title=Det andre store spørsmålet]
Hva er en koordinat? 
\end{tcolorbox}

\noindent Det er ingenting spesielt med titallssystemet. 
Vi har valgt det fordi vi har ti fingre,
men det er ingenting feil med andre tallsystemer. 
En moderne datamaskin er for eksempel utenkelig uten totallssystemet,
siden all informasjon lagres med små brytere som står enten av eller på.
Det vi tenker på som 7 heter 111 i totallssystemet,
men det er bare navnet som er forskjellig.
Syv epler er syv epler.

For vektorer finnes en tilsvarende problemstilling. 
La 
\[
\mathbf{x}=
\begin{pmatrix}
1\\
2 
\end{pmatrix}.
\]
Koordinatene til $\mathbf{x}$ er $(1,2)$, 
for 
\[
\mathbf{x}
=
1\cdot 
\begin{pmatrix}
1\\
0 
\end{pmatrix}
+
2 \cdot
\begin{pmatrix}
0\\
1
\end{pmatrix}.
\]
Men vi kunne like gjerne basert alt på
\[
\begin{pmatrix}
2\\
3 
\end{pmatrix}
\quad \text{og} \quad
\begin{pmatrix}
3\\
4 
\end{pmatrix}
\]
siden alle vektorer i $\mathbb{R}^2$ også kan skrives som en entydig lineærkombinasjon av disse to:
\[
\mathbf{x}
=
2\cdot 
\begin{pmatrix}
2\\
3 
\end{pmatrix}
-1\cdot
\begin{pmatrix}
3\\
4 
\end{pmatrix}
\]
Forskjellen er at det punktet vi prater om,
altså det punktet du til vanlig tenker på som
\[
\mathbf{x}=
\begin{pmatrix}
1\\
2 
\end{pmatrix}
\]
har koordinater enten $(1,2)$ eller $(2,-1)$,
alt etter hvilke to vektorer vi baserer alt på.
Men det er fortsatt det samme punktet, 
vi har bare skrevet det som to forskjellige lineærkombinasjoner.
og vektene i denne lineærkombinasjonen
er det vi tenker på som koordinatene til punktet. 

Den samme situasjonen støter vi på for differensiallikningen 
\[
\ddot{x}+x=0.
\]
Løsningene er alle lineærkombinasjoner på formen 
\[
x(t)=c_1 \cos t + c_2\sin t,
\]
men vi kan jo like gjerne skrive dem som lineærkombinasjoner på formen 
\[
x(t)=d_1 e^{it}  + d_2 e^{-it}.
\]
En av løsningene, 
for eksempel 
\[
x(t)= 2\cos t + 2\sin t,
\]
er den samme som 
\[
x(t)=(1-i) e^{it}  +  (1+i) e^{-it},
\]
de er bare skrevet på litt forskjellig måte.
Hvis vi har lyst til å være skikkelig profesjonelle, 
kan vi bruke initialverdiene fra et eventuelt initialverdiproblem som koordinater,
og skrive
\[
x(t)=x_0 \cos t + v_0\sin t,
\]
der $x(0)=x_0$ og $\dot{x}(0)=v_0$, 
altså startposisjon og startfart.

På samme måte som 
totallssystemet i noen tilfeller er vesentlig bedre enn titallssystemet,
er det i noen situasjoner koordinatsystemer som er bedre enn andre.
Vi har allerede sett at det er lettere å regne med komplekse eksponensialfunksjoner en sinus og cosinus,
og at man før eller siden må forholde seg til forskjellige koordinatsystemer, 
er ikke noe å lure på. 
Det er fremtiden,
og dette vil du oppdage i løpet studiet. 
Så la oss si at vi løsriver oss fra koordinatsystemet vi er vant til. 
I så fall ser det ut som om koordinatbegrepet henger sammen med konseptet lineærkombinasjon,
siden koordinater ser ut til å være det samme som vektene i en lineærkombinasjon. 


\begin{tcolorbox}[colback=green!10, title=Det tredje store spørsmålet]
Finnes det et matematisk konsept som binder sammen disse greiene?
\end{tcolorbox}


\noindent Svaret er ja. 
Det heter vektorrom. 
Noen elsker det og noen hater det.
En funksjon kan tenkes på som en vektor. 
Følg med i neste bolk.



\section*{\huge De ti bud}

Anta at vi har to vektorer $\V v$ og $\V w$, 
og to skalarer $a$ og $b$.
Lineærkombinasjonen av $\V v$ og $\V w$ med vekter $a$ og $b$, 
er 
\[
a\V v + b \V w.
\] 
Denne er satt sammen av vektoraddisjon
\[
\V v + \V w
\]
og skalarmultiplikasjon
\[
a\V v.
\]
Disse to operasjonene har du jobbet med siden videregående skole,
og er sentrale for vektorrom.

\begin{tcolorbox}[colback=blue!10, title=De ti bud]
La $\mathbf V$ være en (ikke tom) mengde med vektorer
som kan adderes og skalarmultipliseres,
og $\mathbb{K}$ en \href{https://en.wikipedia.org/wiki/Field_(mathematics)}{kropp}.
Vi sier at mengden $\mathbf V$ er et vektorrom over $\mathbb K$ dersom følgende er tilfredsstilt:

\begin{tcolorbox}[colback=green!10, title=Tre aksiomer om vektorrommets innhold:]
For alle $\V v, \V w \in V$ må
\[
\V v + \V w \in V.
\]
For alle $\V v \in V$ må $a \in \mathbb{K}$ må
\[
a\V v \in V.
\]
Det skal finnes en vektor, kalt $\V 0$, slik at
\[
\V v + \V 0 = \V v
\]
for alle $\V v \in V$. 
\end{tcolorbox}
\begin{tcolorbox}[colback=green!10, title=Syv aksiomatiske regneregler:]
For alle $\V u, \V v, \V w \in V$, $a, b\in \mathbb{K}$: 
Addisjonen skal være assosiativ
\[
(\V u +\V v) +\V w =\V u + (\V v +\V w)
\]
og kommutativ
\[
\V u +\V v =\V v + \V u.
\]
Skalarmultiplikasjonen skal være assosiativ
\[
a(b\V v)= (ab)\V v
\]
og distributiv både med hensyn på addisjon av skalarer
\[
(a+b)\V v=a\V v+b\V v
\]
og vektorer
\[
a\left(\V v+\V w\right)=a\V v+a\V w.
\]
Vi må også kreve at 
\[
1\V v=\V v
\]
og at 
\[
0\V v=\V 0.
\]
\end{tcolorbox}
\end{tcolorbox}


\noindent De tre første budene forteller oss noe om hva et vektorrom må inneholde, 
mens de resterende syv går på egenskapene til vektoraddisjon og skalarmultiplikasjon.
Vi kommer bare til å trenge $\mathbb K=\mathbb R$ eller $\mathbb K=\mathbb C$.



\begin{ex}
Vi kan bruke aksiomene til å vise at $\V v$ og $(-1)\V v$ summerer til nullvektoren:
\begin{align*}
\V 0=0\V v=(1-1)\V v=\V v+(-1)\V v
\end{align*}
Det er vanlig å skrive $-\V v$ istedet for $(-1)\V v$.
Det er kanskje mest vanlig å sette krav om existens av elementet $-\V v$ som et aksiom,
og så utlede at $\V 0=0\V v$,
men da blir aksiomene litt vanskeligere å huske.
Jeg liker best å gjøre det slik som vi gjør, 
for det gjør Hanche,
og han er ganske smart.
\end{ex}

\begin{ex}
Det går an å vise at nullvektoren er entydig, 
i den forstand at det ikke finnes en annen vektor som tilfredsstiller
\[
\V v + \V w= \V v
\]
for alle $\V v$. 
La oss anta at en slik $\V w$ finnes. 
Hvis vi velger $\V v=\V 0$ i likningen over, 
ser vi at 
\[
\V 0 + \V w= \V 0.
\]
Men nå kan vi bruke aksiomene,
og se at 
\begin{align*}
\V 0 = \V 0 + \V w=0\V w + 1\V w=(0+1)\V w=\V w.
\end{align*}
Altså er $\V w=\V 0$.
\end{ex}


\begin{ex}
Vi kan  bevise at 
\[
a\V 0=\V 0.
\]
Vi vet at 
\[
a\V v=a(\V v+ \V 0)=a\V v+ a\V 0,
\]
men i forrige eksempel viste vi at nullvektoren er den eneste vektoren med denne egenskapen. 
Altså må $a\V 0$ være nettopp denne nullvektoren.
\end{ex}




\begin{ex}
Det går nå an å vise at dersom 
\[
a\V v=\V 0
\]
må enten $a=0$ eller $\V v=\V 0$. 
Dersom $a=0$, 
har vi jo et aksiom som sier at $0\V v = \V 0$,
så det er greit. 
Dersom $a\neq 0$,
er
\[
\V v= 1\V v= \frac{1}{a}a\V v=\frac{1}{a}\V 0 = \V 0.\qedhere
\]
\end{ex}

Nå går det an å fortsette på denne måten, 
og bevise alt mellom himmel og jord. 
Vel, faktisk ikke alt:
Et av Gödels teoremer sier noe sånt som at i alle aksiomatiske systemer finnes det utsagn som er sanne, 
men som ikke lar seg bevise med aksiomene man har til rådighet.
Gödel var veldig skarp, 
men sultet ihjel etter at han ble enkemann, 
fordi han nektet å spise annen mat enn den kona lagde til ham.

Arketypen på vektorrom er $\mathbb R^n$.
Dette er mengden av alle vektorer på formen 
\[
\mathbf x=
\begin{pmatrix}
x_1 \\
x_2 \\
\vdots \\
x_n
\end{pmatrix},
\] 
der alle komponentene er reelle tall. 
Å vise at $\mathbb R^n$ er et vektorrom er trivielt, 
for aksiomene er avledet fra regnereglene for $\mathbb R^n$ du lærte allerede på gymnaset.
Styrken i vektorromsabstraksjonen
er at det er mange ting som ved første øyekast ikke ser ut som $\mathbb R^n$, 
men som oppfører seg som $\mathbb R^n$ allikevel.

Vi skriver $\mathbb{C}^n$ for vektorrommet der vektorene er søylevektorer med komplekse komponenter 
\[
\V z=
\begin{pmatrix}
a_1+b_1 i    \\ a_2+b_2 i   \\ \vdots \\ a_n+b_n i 
\end{pmatrix}
=
\begin{pmatrix}
z_1    \\ z_2   \\ \vdots \\ z_n
\end{pmatrix}.
\]
Du kjenner til mange vektorrom.
Vi har bare ikke kalt det vektorrom før.
Her er noen enkle eksempler.

\begin{ex}
La $\V v$ være en vektor, 
for eksempel
\[
\V v=
\begin{pmatrix}
1 \\
2
\end{pmatrix}.
\]
Mengden av alle reelle eller komplekse skalarmultipler 
\[
a
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\]
utgjør et vektorrom. 
Dette er relativt enkelt å sjekke, 
for aksiomene for vektorrom er jo avledet fra de vanlige reglene for vektorregning.
\end{ex}

\begin{ex}
Alle lineærkombinasjoner av
\[
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\quad \text{og} \quad
\begin{pmatrix}
3 \\
4
\end{pmatrix}
\]
utgjør også et vektorrom. Se øvingsoppegget.
\end{ex}

\begin{ex}
La $T:V \to V$ være en lineæravbildning. 
En egenvektor med egenverdi $\lambda$  er en  vektor $\V v\neq \V 0$ slik at 
\[
T\V v=\lambda \V v.
\]
Som du så i Øysteins notat, 
er det vanlig å starte showet med å kreve at en egenvektor ikke kan være nullvektoren,
slik at ikke alle skalarer skal passere nåløyet som egenverdier,
og så reintrodusere nullvektoren som egenvektoren til en gitt egenverdi,
slik at egenvektorene til denne egenverdien danner et rom. 
Dette er selvfølgelig et vektorrom,
og kalles egenrommet til $\lambda$.
\end{ex}

\begin{ex}
Løsningene til differensiallikningen
\[
\ddot{y}(t)+y(t)=0
\]
er 
\[
y(t)=a\cos t + b \sin t.
\]
Disse utgjør et vektorrom. 
Det høres sikkert snodig ut, 
men dette er faktisk akkurat det samme vektorrommet som det i forrige eksempel.
\end{ex}


\begin{ex}
Alle polynomer på formen
\[
p(x)=bx+c
\]
utgjør et vektorrom. 
Dette er også det samme vektorrommet som i de to foregående eksemplene.
\end{ex}

\begin{ex}
La $\mathbf V$ være mengden av alle skalarmutlipler av $\mathbf v$,
altså alle vektorer på formen
\[
a\mathbf v=
a
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\]
Dette er et vektorrom. 
La oss sjekke alle aksiomene.
Vektoraddisjonen $\mathbf v+\mathbf w$ tar vi som vanlig vektoraddisjon,
slik vi lærte på skolen, 
og tilsvarende valg gjøres for skalarmultiplikasjon.
Vi må nå sjekke alle aksiomene. 

La oss begynne med nullvektoren. 
Vektoren  
\[
\begin{pmatrix}
0 \\
0
\end{pmatrix}
\]
er med i $\mathbf V$, siden den er en skalarmultippel av $\mathbf v$:
\[
\begin{pmatrix}
0 \\
0
\end{pmatrix}
=
0 \cdot
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\]
La oss definere
\[
\mathbf 0
=
\begin{pmatrix}
0 \\
0
\end{pmatrix}.
\]
Vi har nå at 
\[
\mathbf v+\mathbf 0=\mathbf v
\]
for alle $\mathbf v \in \mathbf V$, 
og at 
\[
0\cdot \mathbf v=\mathbf 0.
\]

Siden 
\[
a\mathbf v+b\mathbf v=b\mathbf v+a\mathbf v
\]
ser vi at kommutativitet for vektoraddisjon holder. 
Assosiativitet sjekkes på samme vis. 
Det samme gjelder regnereglene for skalarmultiplikasjon, 
altså assosiativitet, distributivitet, og at $1\mathbf v=\mathbf v$.


Vi må til slutt å sjekke at $\mathbf V$ er lukket under vektoraddisjon. 
Dette følger av at summen av to skalarmultipler av en og samme vektor, 
også er en skalarmultippel av den samme vektoren:
\[
a\mathbf v+b\mathbf v=(a+b)\mathbf v.
\]
Å sjekke at  $\mathbf V$ er lukket under skalarmultiplikasjon, 
er sant per definisjon, 
siden vi har definert  $\mathbf V$ som alle skalarmultipler av vektoren $\mathbf v$. 
\end{ex}

\begin{ex}
La oss sjekke at alle lineærkombinasjoner av 
\[
\mathbf v=
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\quad \text{og} \quad \mathbf w=
\begin{pmatrix}
3 \\
4
\end{pmatrix}
\]
utgjør et vektorrom. 
Vi må jo egentlig sjekke alle aksiomene her,  
Men  jobben med å sjekke aksiomene som går på regneregler, 
er identisk med jobben som ble gjort i forrige oppgave, 
så vi må tenke over hva som er nytt.

Det som er annerledes, 
er egentlig bare spørsmålet om hvorvidt $\mathbf V$ er lukket under de to regneoperasjone.
Anta $\mathbf x$ og $\mathbf y$ er vektorer i $\mathbf V$. Er $\mathbf x +\mathbf y$ også i $\mathbf V$?
La oss skrive $\mathbf x=a\mathbf v + b\mathbf w$ og $\mathbf y=c\mathbf v + d\mathbf w$. 
Men da er 
\[
\mathbf x +\mathbf y=a\mathbf v + b\mathbf w+c\mathbf v + d\mathbf w=(a+c)\mathbf v + (b+d)\mathbf w,
\]
som er en lineærkombinasjon av $\mathbf v$ og $\mathbf w$, 
så $\mathbf x +\mathbf y$ er altså med i $\mathbf V$. 
Tilsvarende ser vi at 
\[
e\mathbf x=ea\mathbf v + eb\mathbf w
\]
slik at $e\mathbf x$ er en lineærkombinasjon av $\mathbf v$ og $\mathbf w$, 
og følgelig med i $\mathbf V$.
\end{ex}






\begin{ex}
Mengden av alle vektorer på  formen
\[
\begin{pmatrix}
a \\
2
\end{pmatrix}
\]
utgjør ikke et vektorrom,
ihvertfall ikke dersom vi bruker den vanlige vektoraddisjonen og skalarmultiplikasjonen som regneoperasjoner. 
Det første aksiomet som mangler, 
er det om nullvektoren.
Det finnes ingen vektor $ \mathbf w$  som har den egenskap at
\[
 \mathbf v +  \mathbf  w = \mathbf v.
\]
For det andre er ikke denne mengden lukket under vanlig vektoraddisjon,
siden 
\[
\begin{pmatrix}
a \\
2
\end{pmatrix}
+
\begin{pmatrix}
b \\
2
\end{pmatrix}
=
\begin{pmatrix}
a+b \\
4
\end{pmatrix}
\neq
\begin{pmatrix}
c \\
2
\end{pmatrix}.
\]
For det tredje er den ikke lukket under den vanlige skalarmultiplikasjonen, 
siden 
\[
b
\begin{pmatrix}
a \\
2
\end{pmatrix}
=
\begin{pmatrix}
ab \\
4b
\end{pmatrix}
\neq
\begin{pmatrix}
c \\
2
\end{pmatrix}
\]
så lenge $b\neq 1$.
\end{ex}



\noindent Det finnes også ting som ved første øyekast kan se ut som vektorrrom, 
men som ikke er det.

\begin{ex}
Mengden av alle vektorer på  formen
\[
\begin{pmatrix}
a \\
2
\end{pmatrix}
\]
utgjør ikke et vektorrom, 
ihvertfall ikke dersom vi bruker den vanlige vektoraddisjonen og skalarmultiplikasjonen som regneoperasjoner. 
Kan du se hvilke aksiomer som ikke er tilfredsstilt?
\end{ex}

\begin{tcolorbox}[colback=blue!10, title=Underrom]
En delmengde av et vektorrom som i seg selv er et vektorrom, 
kalles et underrom. 
\end{tcolorbox}
\noindent Det er relativt enkelt å avgjøre om en delmengde av et vektorrom er et vektorrom. 
La $U$ være en delmengde av et vektorrom $V$.
De syv aksiomene som går på regnereglene er ikke nødvendig å sjekke, 
for det ligger i sakens natur at vektorene i $U$ tilfredsstiller de samme regnereglene som de i $V$, 
siden vektorer i $U$ også er i $V$. 
Med andre ord er det bare nødvendig å sjekke de tre aksiomene som går på innhold. 
Men sjekker vi at 
\begin{align*}
\V v, \V w \in U &\longrightarrow \V v + \V w \in U \\
\V v \in U &\longrightarrow c\V v \in U 
\end{align*}
kommer nullvektoren med i $U$ av seg selv siden ${0\V v=\V 0}$.

\begin{tcolorbox}[colback=red!10, title=Å sjekke om noe er et underrom]
En delmengde $U$ av vektorrommet $V$ er et underrom hvis og bare hvis
\begin{align*}
\V v, \V w \in U &\longrightarrow \V v + \V w \in U \\
\V v \in U &\longrightarrow c\V v \in U 
\end{align*}
\end{tcolorbox}
%
%\begin{proof}
%Siden $U$ er en delmengde av $V$, 
%er det underforstått at alle aksiomene som går på regneregler for vektorer,
%må gjelde i $U$ siden $U$ er en delmengde av $V$. 
%Det er bare tre av aksiomene som ikke er implisert av at $U$ er en delmengde av $V$. 
%To av disse kreves i teoremet, 
%og det siste, nemlig at nullvektoren er med i $U$, 
%er implisert av betingelsen $\V v \in U \longrightarrow c\V v \in U$, 
%siden $0\V v=\V 0$.
%\end{proof}


\begin{ex}
Alle skalarmultipler av 
\[
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\]
er et underrom av vektorrommet av alle lineærkombinasjoner av
\[
\begin{pmatrix}
1 \\
2
\end{pmatrix}
\quad \text{og} \quad
\begin{pmatrix}
3 \\
4
\end{pmatrix}. \qedhere
\]
\end{ex}

\begin{ex}
Alle konstante funksjoner er et underrom av vektorrommet av alle polynomer på formen
\[
p(x)=bx+c. \qedhere
\]
\end{ex}



\section*{\huge Dimensjon}

Vi sier at vektorer $\V v_1$, $\V v_2$ ... $\V v_n$ er lineært uavhengige dersom
\[
c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n=\V 0
\]
impliserer 
at
\[
c_1=c_2=\cdots=c_n= 0.
\]
Merk at en lineært uavhengig vektormengde ikke kan inneholde nullvektoren. 

\begin{tcolorbox}[colback=red!10, title=Lineær uavhengighet er praktisk] 
Dersom en vektor $\mathbf w$ kan skrives som en lineærkombinasjon av de lineært uavhengige vektorene $\V v_1$, $\V v_2$ ... $\V v_n$, 
kan dette kun gjøres på én måte.

\end{tcolorbox}

\begin{proof}
Anta at vi kan skrive både 
\[
\V w=c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n
\]
og
\[
\V w=d_1\V v_1+d_2\V v_2 +\cdots +d_n\V v_n.
\]
I så fall er 
\begin{align*}
\V 0&=\V w-\V w\\
&=(c_1-d_1)\V v_1+(c_2-d_2)\V v_2 +\cdots +(c_n-d_n)\V v_n.
\end{align*}
Men $\V v_1$, $\V v_2$ ... $\V v_n$ er lineært uavhengige,
så likningen over impliserer at $c_k=d_k$ for alle $k$.
\end{proof}

Dersom alle $\V w \in \V V$ kan skrives som en lineærkombinasjon av en lineært uavhengig vektormengde $\V v_1$, $\V v_2$ ... $\V v_n$,
sier vi at $\V v_1$, $\V v_2$ ... $\V v_n$ spenner ut $\V V$.

\begin{tcolorbox}[colback=blue!10, title=Basis]
En vektormengde som spenner ut vektorrommet $\V V$,
kalles en basis for $\V V$.
\end{tcolorbox}
\noindent Basis er et sentralt verktøy.

\begin{tcolorbox}[colback=red!10, title=Et vektorrom har en basis]
Et vektorrom har enten en endelig basis, 
eller en uendelig følge av lineært uavhengige vektorer. 
\end{tcolorbox}

\begin{proof}
Se \noindent \href{https://folk.ntnu.no/hanche/notes/vrom/vrom.pdf}{her}.
\end{proof}

 \href{https://folk.ntnu.no/hanche}{Hanche} kaller det neste teoremet for plassmangelteoremet, 
for det forteller noen om hvor mange lineært uavhengige vektorer det er plass til i et vektorrom.


\begin{tcolorbox}[colback=red!10, title=Plassmangelteoremet]
La $\V v_1$, $\V v_2$ ... $\V v_n$ være en basis for $\V V$, 
og la $\V w_1$, $\V w_2$ ... $\V w_m$ være en lineært uavhengig vektormengde i $\V V$.
Da er $m\leq n$.

\end{tcolorbox}

\begin{proof}
Anta $m> n$. 
Siden $\V v_1$, $\V v_2$ ... $\V v_n$ er en basis for  $\V V$, 
kan vi skrive
\[
\V w_1=c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n.
\]
Siden $\V w_1 \neq \V 0$, 
må minst en av koeffisientene $c_k$ være ulik 0. 
La oss anta at $c_1\neq 0$. 
(Hvis ikke dette er tilfelle, bytter vi bare litt på rekkefølgen i $\V v_1$, $\V v_2$ ... $\V v_n$.)
Men i så fall kan vi skrive
\[
\V v_1=\V w_1-\frac{c_2}{c_1}\V v_2 -\cdots -\frac{c_n}{c_1}\V v_n,
\]
og dette betyr at $\V w_1$, $\V v_2$ ... $\V v_n$ er en basis for $\V V$, 
for et vilkårlig element $\V u \in \V V$ vil alltid kunne skrives
\begin{align*}
\V u=&d_1\V v_1+d_2\V v_2 +\cdots +d_n\V v_n\\
=&d_1\left(\V w_1-\frac{c_2}{c_1}\V v_2 -\cdots -\frac{c_n}{c_1}\V v_n\right)\\
&\quad\quad\;\,+d_2\V v_2 +\cdots +d_n\V v_n\\
=&d_1\V w_1+\left(d_2-d_1\frac{c_2}{c_1}\right)\V v_2 +\cdots +\left(d_n-d_1\frac{c_n}{c_1}\right)\V v_n.
\end{align*}
Vi fortsetter på samme måte. 
Det er nå klart at vi kan skrive (med nye koeffisienter $d_1$ og $c_k$)
\[
\V w_2=d_1\V w_1+c_2\V v_2 +\cdots +c_n\V v_n.
\]
Her må minst  en av koeffisientene $c_k$ være ulik null, 
for $\V w_2$ er ikke en skalarmultippel av $\V w_1$.
La oss anta at $c_2\neq 0$,
hvis ikke, bytt rekkefølge på $\V v_2$, $\V v_3$ ... $\V v_n$.
Nå kan vi skrive 
\[
\V v_2=-\frac{d_1}{c_2}\V w_1+\V w_2-\frac{c_3}{c_2}\V v_3 -\cdots -\frac{c_n}{c_2}\V v_n,
\]
og det samme argumentet som ovenfor
forteller oss at $\V w_1$, $\V w_2$, $\V v_3$ ... $\V v_n$ er en basis for $\V V$.

Vi tar en runde til. 
Vi kan skrive (nok en gang med nye koeffisienter)
\[
\V w_3=d_1\V w_1+d_2\V w_2+c_3\V v_3 +\cdots +c_n\V v_n,
\]
og her må minst en $c_k$ være ulik null, 
for $\V w_1$, $\V w_2$ og $\V w_3$ er jo lineært uavhengige. 
Samme prosess gir nok en gang at $\V w_1$, $\V w_2$, $\V w_3$ $\V v_4$ ... $\V v_n$ er en basis for $\V V$, 
og gjentar vi dette igjen og igjen, 
vil konklusjonen være at $\V w_1$, $\V w_2$ ... $\V w_n$ er en basis for  $\V V$. 

Men dersom dette er sant, 
kan vi skrive
\[
\V w_{n+1}=c_1\V w_1+c_2\V w_2 +\cdots +c_n\V w_n, 
\]
og dette går på tverke med den lineære uavhengigheten til  $\V w_1$, $\V w_2$ ... $\V w_m$. 
Altså kan ikke $m>n$.
\end{proof}

\begin{tcolorbox}[colback=red!10, title=Nå kan vi snart definere dimensjon dere!]
To endelige basiser for ett og samme vektorrom må bestå av samme antall vektorer. 
\end{tcolorbox}

\begin{proof}
Anta at vi har to basiser $\V v_1$, $\V v_2$ ... $\V n_n$ og $\V w_1$, $\V w_2$ ... $\V w_m$. 
Siden både $n\leq m$ og $m\leq n$, 
må vi ha $n=m$.
\end{proof}

\begin{tcolorbox}[colback=red!10, title=NÅ kan vi definere dimensjon!]
Dersom et vektorrom har en endelig basis, 
sier vi at vektorrommet er endeligdimensjonalt.
To forskjellige basiser for et og samme endeligdimensjonale vektorrom må
inneholde det samme antall vektorer.
Dette antallet kalles vektorrommets dimensjon.
\end{tcolorbox}

\begin{ex}
$\R^n$ et $n$-dimensjonalt vektorrom over $\R$. 
En basis er de $n$ vektorene
\[
\begin{pmatrix}
1    \\ 0  \\ \vdots \\ 0
\end{pmatrix},\;
\begin{pmatrix}
0    \\ 1  \\ \vdots \\ 0
\end{pmatrix}
\;...\;
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ 1
\end{pmatrix}\qedhere
\]
\end{ex}

\begin{ex}
Standardbasisen 
for $\R^n$ er også en basis for $\mathbb{C}^n$. 
Det er lett å se at alle elementer i $\mathbb{C}^n$ kan skrives som en entydig lineærkombinasjon av elementene i basisen:
\begin{align*}
\V z&=
\begin{pmatrix}
a_1+b_1 i    \\ a_2+b_2 i   \\ \vdots \\ a_n+b_n i 
\end{pmatrix}
=
\begin{pmatrix}
z_1    \\ z_2   \\ \vdots \\ z_n
\end{pmatrix}
\\&=
z_1
\begin{pmatrix}
1    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
z_2
\begin{pmatrix}
0    \\ 1  \\ \vdots \\ 0
\end{pmatrix}
+...+
z_n
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ 1
\end{pmatrix} \qedhere
\end{align*}
\end{ex}

\begin{ex}
Man kan også se på $\mathbb{C}^n$ som et vektorrom over $\R$, men da er ikke standardbasisen for $\R^n$ en basis for $\mathbb{C}^n$. En basis er
\begin{align*}
&
\begin{pmatrix}
1    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
\begin{pmatrix}
0    \\ 1  \\ \vdots \\ 0
\end{pmatrix}
+...+
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ 1
\end{pmatrix}
\\ +
&
\begin{pmatrix}
i    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
\begin{pmatrix}
0    \\ i  \\ \vdots \\ 0
\end{pmatrix}
+...+
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ i
\end{pmatrix},
\end{align*}
og dimensjonen er $2n$ istedet for $n$. 
En tilfeldig vektor $\V z$ i $\mathbb{C}^n$ kan skrives
\begin{align*}
\V z&=
\begin{pmatrix}
a_1+b_1 i    \\ a_2+b_2 i   \\ \vdots \\ a_n+b_n i 
\end{pmatrix}
\\&= 
a_1
\begin{pmatrix}
1    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
a_2
\begin{pmatrix}
0    \\ 1  \\ \vdots \\ 0
\end{pmatrix}
+...+
a_n
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ 1
\end{pmatrix}
\\ &+
b_1
\begin{pmatrix}
i    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
b_2
\begin{pmatrix}
0    \\ i  \\ \vdots \\ 0
\end{pmatrix}
+...+
b_n
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ i
\end{pmatrix}. \qedhere
\end{align*}
\end{ex}


\begin{ex}
$\Q^n$ et vektorrom over $\Q$. Selv om vi har sagt at vi har gjort lineær algebra på $\R^n$ til nå, har vi i praksis operert på $\Q^n$. Ikke et eneste matriseeksempel har involvert $\sqrt{2}$.
\end{ex}


\begin{ex}
De hele tallene $\Z$ er ikke en kropp, 
så $\Z^n$ er ikke et vektorrom.
\end{ex}




\begin{ex}
Alle polynomer på formen
\[
p(x)=ax^2+bx+c
\]
utgjør et vektorrom med dimensjon 3.
En basis er $1$, $x$, $x^2$. 
Hvordan sr vi det?
Det er klart at alle polynomer på formen 
\[
ax^2+bx+c
\]
kan skrives som en lineærkombinasjon av $1$, $x$, $x^2$. 
(Du har jo brukt denne basisen til å definere hva du mener med et andregradspolynom siden første klasse på gymnaset.)
De tre elementene er også lineært uavhengige, 
for om vi krever
\[
ax^2+bx+c=0 \quad \text{for alle}\; t
\]
må $a=b=c=0$. 
En annen basis er de tre første Legendrepolynomene $1$, $x$ og $\frac{1}{2}(3x^2-1)$.
Det er litt mer regning å vise, 
men grunnstegene er de samme.
\end{ex}


\begin{ex}
Løsningene til differensiallikningen
\[
\ddot{y}+y=0
\]
utgjør et vektorrom over $\mathbb C$ med dimensjon 2. 
En basis er $\sin t$, $\cos t$, og en annen er $e^{it}$, $e^{-it}$.
\end{ex}


\begin{ex}
Alle matriser på formen 
\[
\begin{pmatrix}
a & b \\
c & d
\end{pmatrix}
\]
utgjør et vektorrom med dimensjon 4. 
En pen basis er de fire matrisene
\[
\begin{pmatrix}
1 & 0 \\
0 & 0
\end{pmatrix},\;
\begin{pmatrix}
0 & 1 \\
0 & 0
\end{pmatrix},\;
\begin{pmatrix}
0 & 0 \\
1 & 0
\end{pmatrix},\;
\begin{pmatrix}
0 & 0 \\
0 & 1
\end{pmatrix}\qedhere
\]
\end{ex}

\begin{ex}
Alle kontinuerlige funksjoner, 
alle deriverbare funksjoner, 
alle analytiske funksjoner, 
og så videre, 
er eksempler på vektorrom med uendelig mange dimensjoner.
Husk at en funksjon er noe som på en entydig måte tilordner et element i en mengde til et element i en annen mengde. 
Derfor kan du tenke på en funksjon som en uendelig lang søylevektor der komponentene er funksjonsverdiene til funksjonen på alle punktene i $\mathbb{R}$.
\end{ex}

\section*{\huge Koordinater}

I forrige avsnitt var rekkefølgen på basiselementene litt ad hoc. 
Fra nå av skal vi skrive basiselementene i en bestemt rekkefølge,
for da kan basisen brukes til å definere koordinater. 

\begin{tcolorbox}[colback=blue!10, title=Nå kan vi definere koordinater!]
La $(\V v_1, \V v_2, ... ,\V v_n)$ være en basis for et vektorrom,
og la
\[
\V w=c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n .
\]
Vi sier at skalarene $(c_1, c_2, ... ,c_n)$ er koordinatene til $\V w$ i basisen $(\V v_1, \V v_2, ... ,\V v_n)$.
\end{tcolorbox}

\begin{ex}
Vi skriver jo at $z_1$, $z_2$,...$z_n$ er koordinatene til $\V z$ fordi 
\begin{align*}
\V z&=\quad
\begin{pmatrix}
z_1    \\ z_2   \\ \vdots \\ z_n
\end{pmatrix}
\\&=
z_1
\begin{pmatrix}
1    \\ 0  \\ \vdots \\ 0
\end{pmatrix}
+
z_2
\begin{pmatrix}
0    \\ 1  \\ \vdots \\ 0
\end{pmatrix}
+...+
z_n
\begin{pmatrix}
0    \\ 0  \\ \vdots \\ 1
\end{pmatrix} \qedhere
\end{align*}
\end{ex}

\begin{ex}
Koordinatene til
\[
p(x)=x^2+2x+1
\]
i basisen $(x^2,x,1)$ er $(1,2,1)$.
Koordinatene
i basisen 
\[
\left(\frac{1}{2}(3x^2-1),x,1\right)
\] 
er $(2/3,2,4/3)$, 
siden 
\[
p(x)=x^2+2x+1=\frac{2}{3}\left(\frac{1}{2}(3x^2-1)\right)+2x+\frac{4}{3}.\qedhere
\]
\end{ex}

\begin{ex}
Koordinatene til vektoren
\[
\begin{pmatrix}
a & b \\
c & d
\end{pmatrix}
\]
i vektorrommet av $2\times 2$-matriser,
er $(a,b,c,d)$, siden 
\begin{align*}
\begin{pmatrix}
a & b \\
c & d
\end{pmatrix}&
=\\
a&
\begin{pmatrix}
1 & 0 \\
0 & 0
\end{pmatrix}
+b
\begin{pmatrix}
0 & 1 \\
0 & 0
\end{pmatrix}
+c
\begin{pmatrix}
0 & 0 \\
1 & 0
\end{pmatrix}
+d
\begin{pmatrix}
0 & 0 \\
0 & 1
\end{pmatrix}.\qedhere
\end{align*}
\end{ex}

\section*{\huge Lineæravbildninger}

Den vanligste funksjonen mellom vektorrom kalles lineæravbildning.
Vanlige synonymer er lineærtransformasjon og lineæroperator.

\begin{tcolorbox}[colback=blue!10, title=Superposisjonsprinsippet på matematikermåten]
La $V$ og $W$ være vektorrom. 
En lineæravbildning er en funksjon $T:V \to W$ slik at 
\begin{align*}
T(\mathbf x+\mathbf y)&=T(\mathbf x)+T(\mathbf y) \\
T(c\mathbf x)&=cT(\mathbf x)
\end{align*}
\end{tcolorbox}

\noindent Arketypen på en lineæravbildning,
er matrise-vektorproduktet.

\begin{ex}
La $A$ være en $n\times m$-matrise,
og $\V x$ og $\V y$ $m\times 1$-vektorer. 
Vi vet jo fra forrige semester at
\[
A\left(\V x+\V y\right) =A\V x+A\V y
\]
og at 
\[
A\left(c\V x\right) =cA\V x.
\]
En lineæravbildning er bare en generalisering av denne operasjonen, 
og vi kan definere $T: \mathbb R^m \to  \mathbb R^n$ ved 
\[
T\left(\V x\right)=A\V x.\qedhere
\] 
\end{ex}



\begin{ex}
En digital-til-analog-konverter består av en krets som ser slik ut:
\begin{center}
	\begin{circuitikz}
		\draw  (0,0) to (0,2) to  [V=$V_1$]  (2,2) to [ R=$2R$] (4,2) to [R=$R$] (4,0) to  (0,0); 
		\draw  (0,2) to (0,4) to [V=$V_2$]  (2,4) to [ R=$2R$] (4,4) to [R=$R$] (4,2); 
		\draw  (0,4) to (0,6) to [V=$V_3$]  (2,6) to [ R=$2R$] (4,6) to [R=$R$] (4,4); 
		\draw  (4,6) to[short, -*] (5,6) node[anchor=west]{$V$}; 
		\draw (1,0) node[ground]{};
	\end{circuitikz}
\end{center}
Kretsen fungerer slik at spenningsnivåene $V_1$, $V_2$ og $V_3$ definerer en binærkode ved at de har enten høy (5V) eller lav (0V) spenning, 
og så får man ut en spenning $V$ på mellom 0 og 5 volt. 
La oss representere $V_1V_2V_3$ som en vektor med nullere og enere. 
Tabellen blir noe slikt:\\[-5pt]

\begin{tabular}{c c}
$V_1V_2V_3$ & $V$ \\
\hline
0\;0\;0 & 0 \\
0\;0\;1 & 0.625 \\
0\;1\;0 & 1.25 \\
0\;1\;1 & 1.875 \\
1\;0\;0 & 2.5 \\
1\;0\;1 & 3.125 \\
1\;1\;0 & 3.75 \\
1\;1\;1 & 4.375 \\
\end{tabular}\\

\noindent Nå er det slik at siden denne typen resistiv krets modelleres av lineæralgebra,
er superposisjonsprinsippet implisert av lineæralgebramodellen. 
Siden siden matrise-vektorproduktet er en lineæravbildning, 
vil også kretsen oppføre seg som en lineæravbildning.
La for eksempel
\[
\V x=(0,1,0)
\]
og 
\[
\V y=(1,0,1).
\]
Da er 
\begin{align*}
T\left(\V x+\V y\right) &=T(\V x)+T(\V y)\\
&=T(0,1,0)+T(1,0,1)=\\
&T(1,1,1)=4.375.
\end{align*}
Til slutt må vi være litt forsiktige her,
for det er noen tilleggsregler som gjelder fordi dette er elektronikk i praksis. 
Man vil aldri legge sammen for eksempel vektorene $(0,1,0)$ og $(0,1,1)$,
for dette korresponderer til å sette $V_2$ til 10V, 
og det gjør man ikke.
\end{ex}

\begin{ex}
Egenskapen 
\[
T(\mathbf x+\mathbf y)=T(\mathbf x)+T(\mathbf y) 
\]
er sentral for superposisjonsprinsippet, 
men en vanlig kilde til misforståelse.
I noen fagfelt,
for eksempel statistikk,
bruker man ordet 'lineær' om en funksjon som beskriver en rett linje, 
altså funksjoner på formen $p(x)=ax+b$. 
For denne funksjonen gjelder jo ikke at 
\[
p(x+y)=p(x)+p(y)
\] 
med mindre $b=0$, 
så ordet lineær har for dem en helt annen betydning. 
Dette er greit å vite om.
\end{ex}


\begin{ex}
Venstresiden i differensiallikningen
\[
 \ddot{y}+y=0
\]
er en lineæravbildning
\[
T( y)= \ddot{  y}+ y.
\]
Dette er matematikerens måte å si at superposisjonsprinsippet gjelder. 
Når du så likningen første gang, 
brukte læreren din egenskapene til lineæravbildninger, 
og sa antagelig noe slikt som at '$\cos t$ er jo selvfølgelig en løsning, 
men det er $\sin t$ også, og så er det slik at da er faktisk $a\cos t+b\sin t$ en løsning'.
Når det er snakk om differensiallikninger, 
bruker man ofte ordet lineæroperator.
\end{ex}


\begin{ex}
Setter man $c=0$ i 
\[
T(c\V v)=cT(\V v),
\]
ser man at for en vilkårlig lineærtransformasjon $T: V\to W$,
må
\[
T(\V 0)=\V 0.
\]
Her er det underforstått at $\V 0$ på venstre side er nullvektoren i $V$, 
mens $\V 0$ på høyre side er nullvektoren i $W$.
\end{ex}

\begin{tcolorbox}[colback=blue!10, title=Noe litt tekniske greier]
En lineæravbildning $T:V \to W$ er surjektiv dersom det for enhver $\mathbf w \in W$ finnes en $\mathbf v \in V$ slik at $T(v)=w$.
\end{tcolorbox}
En lineæravbildning $T:V \to W$ som er både injektiv og surjektiv, 
kalles en isomorfi.
Dersom det finnes en isomorfi mellom $V$ og $W$,
sier vi at  $V$ og $W$ er isomorfe.
Dette betyr at det i bunn og grunn er snakk om samme vektorrom.
To isomorfe vektorrom kan se veldig forskjellige ut. 
Vektorrom er isomorfe dersom de har samme dimensjon.

\begin{ex}
Vektorrommet av løsninger til 
\[
\ddot{y}+y=0
\]
er isomorft med både $\mathbb R^2$. 
En isomorfi er for eksempel 
\[
T(a\cos t+b\sin t)=
\begin{pmatrix}
a \\
b
\end{pmatrix}.
\]
Disse vektorrommene er også isomorfe med
$\mathbb C^2$, 
alle polynomer på formen $ax+b$,
og $\mathbb C$, 
dersom du ser på det som et todimensjonalt vektorrom over $\mathbb R$.
\end{ex}


\begin{tcolorbox}[colback=blue!10, title=To viktige vektorrom]
La $T:V \to W$ være en lineæravbildning.
Mengden av alle $\V v \in V$ slik at $T\V v=\V 0$, 
kalles kjernen til $T$. 
Mengden av alle $\V w \in W$ slik at $T\V v=\V w$,
kalles bildet til $T$. 
\end{tcolorbox}
Kjernen og bildet gir opphav til to viktige vektorrom.

\begin{tcolorbox}[colback=red!10, title=De er faktisk vektorrom]
Kjernen til $T:V\to W$ er et underrom av $V$, 
og bildet er et underrom av $W$. 
\end{tcolorbox}



\begin{ex}
Dersom $T$ er gitt ved et matrise-vektor-produkt $A\V x=\V y$,
er kjernen til $T$ noe som kalles nullrommet til $A$. 
Dette er alle vektorer slik at 
\[
A\V x=\V 0,
\]
og man finner en basis for dette rommet ved å finne alle løsninger av dette lineære likningssystemet.

Bildet til $T$ kalles søylerommet, 
og er alle vektorer på formen
\[
A\V x,
\]
altså alle mulige lineærkombinasjoner av matrisens søyler.
En basis for søylerommet kan man få ved radreduksjon. 
Hvis man plukker ut søyleindeksene til de søylene som ender opp med å ha pivotelementer etter radreduksjonen,
vil de søylene med samme indeks i $A$ være en basis for søylerommet. 
Se øvingsopplegget.
\end{ex}


\begin{ex}
Dersom $T:V \to W$ er gitt ved en operasjon som gjør et eller annet, 
så finnes det alltid en matrise som gjør det samme med vektorer fra $\mathbb R^n$ til $\mathbb R^m$,
der $n$ er dimensjonen til $V$, og $m$ er dimensjonen til $W$.
La for eksempel 
\[
T(y)=\ddot{y}+y,
\]
 og la både $V$ og $W$ være vektorrommet av polynomer på formen~$p(x)=ax^2+bx+c$.
Dette rommet er isomorft med $\mathbb R^3$, 
og derfor finnes det en $3\times 3$-matrise som gjør det samme med vektorer i $\mathbb R^3$ som $T$ gjør med andre ordens polynomer. 
Hvis vi anvender $T$ på $ax^2+bx+c$, 
får vi 
\begin{align*}
T(ax^2+bx+c)=&aT(x^2)+bT(x)+cT(1) \\
=&a(2+x^2)+bx+c\\
=&ax^2+bx+2a+c.
\end{align*}
En matrise som gjør det samme mellom vektorer i $\mathbb R^3$,
er 
\[
A=
\begin{pmatrix}
1 &0 &0 \\
0 &1 & 0\\
2 & 0 &1
\end{pmatrix},
\]
siden 
\[
A
\begin{pmatrix}
a \\
b \\
c 
\end{pmatrix}
=
\begin{pmatrix}
a \\
b \\
2a+c
\end{pmatrix}.
\]
Matrisen $A$ kalles lineæravbildningens standardmatrise, 
og kan enkelt finnes ved å se på hva lineæravbildningen gjør med vektorene i basisen man har valgt for $V$.
I dette tilfellet er basisen $(x^2,x,1)$.
La oss begynne med $x^2$.  
Siden $T(x^2)=x^2+2$,
ønsker vi en matrise $A$ slik at
\[
A
\begin{pmatrix}
1 \\
0 \\
0 
\end{pmatrix}
=
\begin{pmatrix}
1 \\
0 \\
2 
\end{pmatrix},
\]
og dette impliserer at den første søylen i $A$ må være nettopp
\[
\begin{pmatrix}
1 \\
0 \\
2 
\end{pmatrix}.
\]
Fortsetter man med $T(x)$ og $T(1)$, 
detter de andre søylene ut.
\end{ex}

\begin{ex}
Vi kan finne standardmatrisen til lineæravbildningen $T$ som speiler punkter om $x$-aksen i $\mathbb R^2$.
Speilingen er definert av at 
\[
T
\begin{pmatrix}
1 \\
0  
\end{pmatrix}
=
\begin{pmatrix}
1 \\
0  
\end{pmatrix}
\]
og
\[
T
\begin{pmatrix}
0 \\
1  
\end{pmatrix}
=
\begin{pmatrix}
0 \\
-1  
\end{pmatrix},
\]
slik at matrisen blir
\[
\begin{pmatrix}
1 & 0 \\
0  & -1
\end{pmatrix}.\qedhere
\]
\end{ex}

\begin{ex}
Standardmatrisen til lineæravbildningen som roterer punkter vinkelen $\theta$ mot klokken, 
er gitt ved 
\[
A_{\theta}=
\begin{pmatrix}
\cos \theta & -\sin \theta \\
\sin \theta  & \cos \theta
\end{pmatrix}
\]
siden
\[
A_{\theta}
\begin{pmatrix}
1 \\
0  
\end{pmatrix}
=
\begin{pmatrix}
\cos \theta \\
\sin \theta
\end{pmatrix}
\]
og
\[
A_{\theta}
\begin{pmatrix}
0 \\
1  
\end{pmatrix}
=
\begin{pmatrix}
-\sin \theta \\
\cos \theta
\end{pmatrix}
\qedhere
\]
\end{ex}



\section*{\huge Indreprodukt}


Vektorrom kan, 
i tillegg til vektoraddisjon og skalarmultiplikasjon, 
ha forskjellige typer produkt mellom vektorer.
Et \defterm{indreprodukt} er noe der du putter inn to vektorer og får ut et tall.
Dersom dette tallet er reellt, 
sier vi at indreproduktet er reelt. 
Indreproduktet kan også være komplekst, 
men dette venter vi litt med.
Indreproduktet er en generalisering av skalarproduktet du lærte om på videregående skole. 
Vi skriver gjerne
\[
(\mathbf{v}, \V w)
\]
og følgende aksiomer skal gjelde. 

\begin{tcolorbox}[title= Reelt indreprodukt]
La $V$ være et vektorrom over $\mathbb R$, 
la  $\V u$, $\V v$ og $\V w$ være vektorer, 
og $a$ og $b$ reelle tall.
Indreproduktet skal være symmetrisk
\[
(\V v, \V w)=(\V w, \V v),
\]
lineært i andre argument
\begin{align*}
(\V u,a\V v+b\V w )&=a(\V u, \V v)+b(\V u, \V w) 
\end{align*}
%eller andre argument
%\begin{align*}
%(a\V v+b\V w,\V u )&=a( \V v,\V u)+b( \V w,\V u) 
%\end{align*}
og positivt definitt
\[
(\V v, \V v)>0 \quad \text{dersom} \quad   \V v\neq \V 0.
\]
Et vektorrom med et indreprodukt
kalles et indreproduktrom.
\end{tcolorbox}

\begin{ex}
Indreproduktet er 
lineært også i første argument:
\begin{align*}
(a\V v+b\V w,\V u )&=(\V u,a\V v+b\V w )\\
&=a(\V u, \V v)+b(\V u, \V w) \\
&=a( \V v,\V u)+b( \V w,\V u)
\end{align*} 
Siden det reelle indreproduktet er lineært i begge argumenter,  sier vi gjerne at det er bilineært.
Det går like greit å sette opp som aksiom at indreproduktet er lineært i første faktor, 
og så utlede at det er lineært i andre faktor. 
Vvilken vei man gjør det har ingenting å si for reelle indreprodukt, 
men det har litt å si for komplekse indreprodukt som vi skal se på lenger ned.
\end{ex}


\begin{ex}
\[
(\V v, \V 0)=(\V v, 0\V v)=0(\V v, \V v)=0. \qedhere
\]
\end{ex}



\begin{ex}
Fra videregående skole  husker du forhåpentligvis skalarproduktet 
 \[
 \V v \cdot \V w
 \]
mellom vektorer i $\mathbb R^2$.
 Dette er et indreprodukt. 
Det finnes to formler for å beregne dette.
Den ene ser slik ut:
\begin{align*}
 \V{v}\cdot  \V{w} = \|\V v\| \|\V w\|& \cos \theta= \\
 &\sqrt{ v_1^2+v_2^2 }\sqrt{ w_1^2+w_2^2 } \cos \theta
 \end{align*}
der $\theta$ er vinkelen mellom $\V{v}$ og $\V{w}$, 
og den andre slik:
\[
 \V{v}\cdot  \V{w} = v_1 w_1+v_2w_2. 
 \] 
 At disse to uttrykkene gir det samme tallet, 
 følger av cosinussetningen, 
 se øvingsopplegget.
 At uttrykket definerer et indreprodukt, 
 er også lett å sjekke fra den siste formelen,
 for det er egenskapene til dette uttrykket som har gitt opphav til aksiomene for indreprodukt.
\end{ex}

 \begin{ex}
I $\mathbb R^n$ kan vi bruke matriseregningsregler, 
og skrive skalarproduktet mellom to søylevektorer $\V v$ og $\V w$ som $\V v \cdot \V w=\V v^T \V w$:
 \begin{align*}
 \begin{bmatrix}
 v_1 \\ 
 v_2 \\
 \vdots\\
 v_n
 \end{bmatrix}\cdot
  \begin{bmatrix}
 w_1 \\ 
 w_2 \\
 \vdots\\
 w_n
 \end{bmatrix}
 &=
 \begin{bmatrix}
 v_1 & 
 v_2 &
 \hdots&
 v_n
 \end{bmatrix}
  \begin{bmatrix}
 w_1 \\ 
 w_2 \\
 \vdots\\
 w_n
 \end{bmatrix}\\
&=v_1w_1+v_2w_2+\cdots + v_nw_n.
\end{align*}
Hvis du for eksempel er så gammel at du bruker kontanter, 
kan du bruke prikkprodukt til å regne ut hvor mange penger du har. 
Dersom du har tre hundrelapper, 
fire tohundrelapper og en femhundrelapp, 
har du 
\[
 \begin{bmatrix}
 3 & 
 4 &
 1
 \end{bmatrix}
  \begin{bmatrix}
100 \\
200 \\
500
 \end{bmatrix} 
 =
 1600
\]
kroner.
 \end{ex}


\begin{tcolorbox}[title= Ortogonalitet mellom vektorer]
Vi sier at to vektorer $\V v$ og $\V w$ er ortogonale dersom 
\[
(\V v,\V w)=0.
\] 
\end{tcolorbox}

\noindent Merk at nullvektoren står ortogonalt på alle vektorer.
Merk også at dersom $(\V v,\V w)=0$, 
gir det første aksiomet at $(\V w,\V v)=0$.


 \begin{ex}
I $\R^2$ er $\V{v}$ og $\V{w}$ ortogonale dersom vinkelen mellom dem er $\pi/2$.
\end{ex}

 \begin{ex}
 Vektorene 
 \[
 \begin{bmatrix}
 1 \\ 
 1 \\
 -1\\
 0
 \end{bmatrix}
 \quad
 \text{og}
 \quad
  \begin{bmatrix}
 0 \\ 
 1 \\
 1\\
 1
 \end{bmatrix}
\]
er ortogonale. 
 \end{ex}

\begin{ex}
La $V$ være vektorrommet av kontinuerlige funksjoner $f:[-\pi,\pi]\to \mathbb R$. 
Dette rommet kalles gjerne $\mathcal C[-\pi,\pi]$.
Vi definerer indreproduktet 
\[
(f,g)=\int_{-\pi}^\pi f(x)g(x)\; dx.
\]
Vi sjekker at aksiomene holder. 
Dette indreproduktet er symmetrisk, 
siden 
\[
(f,g)=\int_{-\pi}^\pi f(x)g(x)\; dx=\int_{-\pi}^\pi g(x)f(x)\; dx=(g,f),
\]
og lineært i andre faktor
\begin{align*}
(f,ag+bh)&=\int_{-\pi}^\pi f(x)\left(ag(x)+bh(x)\right)\; dx\\ 
&=a\int_{-\pi}^\pi f(x)g(x)\; dx+b\int_{-\pi}^\pi f(x)h(x)\; dx\\
&=a(f,g)+b(f,h).
\end{align*}
Siden $f^2\geq 0$, 
ser vi også at
\[
(f,f)= \int_{-\pi}^\pi f^2(x)\; dx> 0
\]
dersom $f$ ikke er nullfunksjonen.
Vi har tidligere sett at funksjonene $\sin nt$ og $\cos nt$ er ortogonale på dette vektorrommet.
\end{ex}
 
 
\begin{tcolorbox}[title= Lengde]
Lengden til en vektor $\V v$ er gitt ved $\|\V v\|=\sqrt{(\V v,\V v)}$.
\end{tcolorbox}

 \begin{ex}
 Vektoren $\V{v}=\frac{\V{w}}{\|\V{w}\|}$ har lengde 1 for alle $\V w \neq 0$.
 For eksempel er 
 \[
\left \|\frac{\cos nt}{\pi}\right\|= \frac{1}{\pi}\int_{-\pi}^\pi \cos^2 n t \; dt=1
 \]
for alle $n$.
 \end{ex}

\noindent  Pytagoras' teorem om rettvinklede trekanter i $\mathbb R^2$ gjelder også for indreproduktrom.


\begin{tcolorbox}[title= Pytagoras]
Vektorene $\V v$ og $\V w$ er ortogonale hvis og bare hvis
\[
\|\V v+\V w\|^2=\|\V v\|^2+\|\V w\|^2.
\]
\end{tcolorbox}
\begin{proof}
Vi beregner
\begin{align*}
\|\V v+\V w \|^2&=(\V v+\V w,\V v+\V w)\\
&=(\V v,\V v)+(\V v,\V w)+(\V w,\V v)+(\V w,\V w)\\ 
& =\|\V v\|^2 +(\V v,\V w)+(\V w,\V v)+\|\V w\|^2 \\
& =\|\V v\|^2 +2(\V v,\V w)+\|\V w\|^2.
\end{align*}
Dersom $(\V v,\V w)=0$, er det klart at
\[
\|\V v-\V w\|^2=\|\V v\|^2+\|\V w\|^2.
\]
Dersom 
\[
\|\V v-\V w\|^2=\|\V v\|^2+\|\V w\|^2,
\]
kan vi trekke denne fra likningen over, 
og se at
\[
2(\V v,\V w)=0,
\]
som betyr at $\V v$ og $\V w$ er ortogonale.
\end{proof}
% \begin{center}
%\begin{tikzpicture}[scale=.42]
%%\draw[-latex,thick] (0,0) -- (7,1);
%\draw[-latex,thick] (0,0) -- (3,6);
%\draw[-latex, thick] (0,0) -- (27/50*7,27/50*1);
%\draw[-latex,thick] (27/50*7,27/50*1) -- (3,6);
%
%\node[anchor=south] at (0,3) {\footnotesize $\V v+\V{w}$};
%\node[anchor=east] at (3,-.5) {\footnotesize $\V v$};
%\node[anchor=west] at (4.0,3) {\footnotesize $\V w$};
%\end{tikzpicture}
%\end{center}
%
Vi sier at vektorene $\V v_1,\V v_2,\cdots,\V v_n$ er innbyrdes ortogonale dersom
\[ 
(\V v_i,\V v_j)=0
\]
for alle $i$ og $j$.
Dersom i tillegg $\|\V v_j \|=1$ for alle $j$, 
sier vi at vektorene er ortonormale.
Det er lett å se at en innbyrdes ortogonal vektormengde må være lineært uavhengig.
Hvis vi tar indreproduktet mellom $\V v_k$ og begge sider av likningen 
\[
c_1\V v_1+ c_2\V v_2+\cdots + c_n\V v_n =\V 0
\]
ser vi at $c_k=0$ for alle $k$.

\section*{\huge Projeksjon}

I dette avsnittet skal vi ta for oss en viktig lineæravbildning,
nemlig projeksjon.
La oss begynne med å se på dette i $\mathbb R^2$.

\begin{tcolorbox}[title= Et viktig spørsmål]
Hvordan kan vi skrive vektoren $\V u$ i figuren under? 
\end{tcolorbox}

 \begin{center}
\begin{tikzpicture}[scale=.42]
\draw[-latex,thick] (0,0) -- (7,1);
\draw[-latex,thick] (0,0) -- (3,6);
\draw[-latex, thick,red] (0,0) -- (27/50*7,27/50*1);
\draw[-latex,thick] (27/50*7,27/50*1) -- (3,6);
\draw[-]  (27/50*7-1/7,27/50*1+1-1/77) -- (27/50*7+1-1/7,27/50*1+8/7-1/77);
\draw[-]  (27/50*7+1,27/50*1+1/7) -- (27/50*7+1-1/7,27/50*1+8/7-1/77);
\node[anchor=east] at (9,1.2) {\footnotesize $\V{v}$};
\node[anchor=south] at (3.5,7) {\footnotesize $\V{w}$};
\node[anchor=east,red] at (3,-.5) {\footnotesize $\V u$};
\node[anchor=west] at (4.0,3) {\footnotesize $\V w-\V u$};
\node[anchor=east] at (2.9,2) {\footnotesize $\theta$};
\draw (2.5,.4) arc (8:55:3);
%\foreach \x in {-4,-3,-2,-1,1,2,3,4,5,6}
%\draw (\x,5pt) -- (\x,-5pt);
%\filldraw (9,6) circle [radius=3pt] node[anchor=north] {$A \V{v}$};
%\draw[->,shorten <=4pt,shorten >=4pt] (3,2) to[bend left=20] (9,6);
\end{tikzpicture}
\\
{\small \textit{Hva er projeksjon?}}
\end{center}

\begin{tcolorbox}[title= Svaret:]
Vi kan begynne med å utlede en formel for lengden:
\[
\|\V u\|=\|\V w\| \cos \theta=\frac{\|\V v\|}{\|\V v\|} \|\V w\| \cos \theta =\frac{\V v \cdot \V w}{\|\V v\|}.
\]
Lengden $\|\V u\|$ kalles $\V w$ sin skalarprojeksjon på $\V v$. 
Vi kan så bruke denne skalarprojeksjonen til å skrive 
\[
\V u=\|\V u\|\frac{\V v}{\|\V v\|}=\frac{\V v \cdot \V w}{\|\V v\|^2}\V v=\frac{\V v \cdot \V w}{\V v \cdot \V v}\V v.
\]
Vektoren $\V u$ kalles gjerne $\V w$ sin komponent i retningen til $\V v$, 
eller vektorprojeksjonen av $\V w$ på $\V v$. 
Komponenten til $\V w$ ortogonalt på $\V v$ er 
og
\[
\V w - \V u.
\]
\end{tcolorbox}

\begin{ex}
Vektoren
\[
\V w
=
\begin{bmatrix}
2 \\ 1
\end{bmatrix}
\]
sin komponent i retningen gitt av
\[
\V v
=
\begin{bmatrix}
1 \\ 2
\end{bmatrix}
\]
er:
\[
\V u=\frac{\V v \cdot \V w}{\V v\cdot \V v}\V v=
\frac{4}{5}
\begin{bmatrix}
1 \\ 2
\end{bmatrix} 
\]
Komponenten ortogonalt på $\V v$ er
\[
\V w - \V u=
\begin{bmatrix}
2 \\ 1
\end{bmatrix} 
-
\frac{4}{5}
\begin{bmatrix}
1 \\ 2
\end{bmatrix}
=
\frac{3}{5}
\begin{bmatrix}
2 \\ -1
\end{bmatrix}. \qedhere
\]
\end{ex}
 

\begin{tcolorbox}[title= Ortogonal projeksjon]
La $V$ være et vektorrom med et indreprodukt.
Inspirert av de geometriske betraktningene over,
definerer vi for $\V v\neq \V 0$  en lineæravbildning
\[
P_{\V v}(\V w)=\frac{(\V v,\V w)}{(\V v,\V v)}\V v,
\]
kalt ortogonal projeksjon på $\V v$.
\end{tcolorbox}

\noindent Å se at dette er en lineæravbildning, 
er ikke så vanskelig, 
se øvingsopplegg.
Man kan tenke at $ P_{\V v}(\V w)$ er skyggen $\V w$ kaster på $\V v$ dersom man lyser på $\V w$ med en lommelykt,
og lommelykten står uendelig langt borte, rett over $\V w$, og vinkelrett på $\V v$.



 \section*{\huge Noen vanskelige teoremer}

La oss ta en ny titt på Pytagoras. 
Dersom $\V v\neq \V 0$ og $\V w$ er vektorer i et indreproduktrom,
er $\V v$ og $\V w-P_{\V v}(\V w)$ ortogonale:
\begin{align*}
(\V v,\V w-P_{\V v}(\V w))&=\left(\V v,\V w-\frac{( \V v,\V w)}{(\V v, \V v)}\V v\right) \\
&=(\V v,\V w)-\frac{( \V v,\V w)}{(\V v, \V v)}(\V v,\V v) \\ 
&= (\V v,\V v)-(\V v,\V v)=0
\end{align*}
Siden $P_{\V v}(\V w)$ er parallell med $\V v$,
og 
\[
\V w-P_{\V v}(\V w)+P_{\V v}(\V w)=\V w,
\]
gir pytagoras at 
\[
\|\V w-P_{\V v}(\V w)\|^2+\|P_{\V v}(\V w)\|^2=\|w\|^2.
\]
Siden $\|\V w-P_{\V v}(\V w)\|\geq 0$, 
må
\[
\|P_{\V v}(\V w)\|^2\leq\|w\|^2.
\]
Men
\begin{align*}
\|P_{\V v}(\V w)\|^2=&\left(P_{\V v}(\V w),P_{\V v}(\V w)\right)\\ 
=&\frac{(\V v,\V w)^2}{(\V v,\V v)^2}(\V v,\V v)
=\frac{(\V v,\V w)^2}{(\V v,\V v)} 
=\frac{(\V v,\V w)^2}{\|\V v\|^2} 
\end{align*}
slik at 
\[
\frac{(\V v,\V w)^2}{\|\V v\|^2} \leq\|w\|^2.
\]
Dersom vi ganger opp med $\|\V v\|^2$ og tar det positive rotutdraget,
får vi 
\begin{tcolorbox}[title= Cauchy-Schwarz' ulikhet]
La $\V v$ og $\V w$ være vektorer i et indreproduktrom. 
Da gjelder at 
\[
|(\V v,\V w)|\leq \|v\|\|w\|.
\]
\end{tcolorbox}
 Det ble riktignok antatt at $\V v\neq \V 0$ i resonnementet over, 
 men ulikheten er trivielt sann dersom $\V v = \V 0$.
 Vi kan spinne litt videre, 
 og beregne at
\begin{align*}
\|v+w\|^2&=(v+w,v+w)\\ 
&=\|v\|^2+(v,w)+(w,v)+\|w\|^2 \\
&\leq \|v\|^2+|(v,w)|+|(w,v)|+\|w\|^2 \\ 
&\leq  \|v\|^2+2\|v\|\|w\|+\|w\|^2 =\\
&\left(\|v\|^2 +\|w\|^2 \right)^2,
\end{align*}
 som gir
\begin{tcolorbox}[title= Trekantulikheten]
La $\V v$ og $\V w$ være vektorer i et indreproduktrom. 
Da gjelder at 
\[
\|v+w\|\leq \|v\|+\|w\|
\]
\end{tcolorbox}
 
 Dersom man har et vektorrom med indreprodukt, 
 er det noen basiser som er bedre enn andre.
 
\begin{tcolorbox}[title= Ortogonal basis]Et endeligdimensjonalt vektorrom har en ortogonal basis.
\end{tcolorbox}
\begin{proof}

La $V$ være vektorrommet, 
og  la $\V v_1$, $\V v_2$, ...,$\V v_n$ være en basis for $V$.
Vi skal lage oss en ortogonal basis $\V u_1,~\V u_2,\cdots,\V u_n$ for $V$.
Prosedyren kalles Gram-Schmidts metode,
og går som følger. 

Husk at ingen av vektorene $\V v_1,~\V v_2,\cdots,\V v_n$ kan være null.
Vi begynner med å definere
\[
\V u_1=\V v_1.
\]
Vektoren $\V u_1$  ikke nødvendigvis ortogonal på $\V v_2$,
men det er lett å sjekke at vektoren 
\[
\V u_2=\V v_2-P_{\V u_1} \V v_2=\V v_2-\frac{ (\V u_1,\V v_2)}{(\V u_1, \V u_1)}\V u_1
\]
er det:
\begin{align*}
(\V u_1,\V u_2)&=\left(\V u_1,\V v_2-\frac{( \V u_1,\V v_2)}{(\V u_1, \V u_1)}\V u_1\right) \\
&=(\V u_1,\V v_2)-\frac{( \V u_1,\V v_2)}{(\V u_1, \V u_1)}(\V u_1,\V u_1) \\ 
&= (\V u_1,\V v_2)-(\V u_1,\V v_2)=0
\end{align*}
Det er også lett å se at $\V u_2$ ikke er nullvektoren.
Dersom så var tilfelle,
impliserer
\[
\V v_2-\frac{ (\V u_1,\V v_2)}{(\V u_1, \V u_1)}\V u_1=\V 0
\]
at  $\V u_1$ og $\V v_2$ er lineært avhengige, 
noe som ikke er sant.
Siden $\V u_1$ og $\V u_2$ er ortognonale,
og ingen av dem nullvektoren, 
er de lineært uavhengige.
De spenner ut det samme rommet som $\V v_1$ og $\V v_2$, 
for dersom $\V w$ kan skrives som en lineærkombinasjon av $\V v_1$ og $\V v_2$, 
kan $\V w$ også skrives som en lineærkombinasjon av $\V u_1$ og $\V u_2$:
\begin{align*}
\V w&=c_1\V v_1+c_2\V v_2 \\
&=c_1\V u_1+c_2\left(\V u_2+\frac{ (\V u_1,\V v_2)}{(\V u_1, \V u_1)}\V u_1\right) 
\end{align*}
På samme vis kan vi sjekke at vektoren 
\begin{align*}
\V u_3&=\V v_3-P_{\V u_1} \V v_3-P_{\V u_2} \V v_3\\[2pt]
&=\V v_3-\frac{ (\V u_1,\V v_3)}{(\V u_1, \V u_1)}\V u_1-\frac{ (\V u_2,\V v_3)}{(\V u_2, \V u_2)}\V u_2
\end{align*}
ikke er nullvektoren,
står ortogonalt på både $\V u_1$ og $\V u_2$,
og sammen med $\V u_1$ og $\V u_2$ 
spenner ut det samme rommet som $\V v_1$, $\V v_2$ og $\V v_3$. 
Vi kan nå fortsette slik, og definere rekursivt
\begin{align*}
\V u_k&=\V v_k-\sum_{j=1}^{k-1}P_{\V u_j} \V v_k\\[2pt]
&=\V v_k-\sum_{j=1}^{k-1}\frac{( \V u_j,\V v_k)}{(\V u_j, \V u_j)}\V u_j,
\end{align*}
og så sjekke ved induksjon at vi får en ortogonal basis for $V$.
%Mengden $\V u_1$, $\V u_2$, ...,$\V u_n$ er en ortogonal basis for rommet utspent av $\V v_1$, $\V v_2$, ...,$\V v_n$.
%Vi bruker induksjon.
%Det er lett å se at  $\V u_1$ og $\V u_2$ er ortogonale: 
%\begin{align*}
%\V u_1,\V u_2&=\V u_1,(\V v_2-\frac{ \V u_1,\V v_2}{\V u_1, \V u_1}\V u_1) \\&=\V u_1,\V v_2-\frac{ \V u_1,\V v_2}{\V u_1, \V u_1}\V u_1,\V u_1 \\ &= \V u_1,\V v_2-\V u_1,\V v_2=0
%\end{align*}
%Siden $\V u_1$ og $\V u_2$ er ikketrivielle lineærkombinasjoner av de lineært uavhegnige vektorene $\V v_1$ og $\V v_2$, 
%er det åpenbart at $\V u_1$ og $\V u_2$ spenner ut det samme rommet som $\V v_1$ og $\V v_2$. 
%
%La nå 
%\[
%V_{k}=\Sp\{\V v_1,\V v_2,\dots,\V v_k\}.
%\]
%Vi antar at $\V u_1,\V u_2,\dots,\V u_{k-1}$ er en ortogonal basis for $V_{k-1}$. 
%Vi må vise at $\V u_k$ står ortogonalt på $V_{k-1}$, og at $\V u_1,\V u_2,\dots,\V u_{k}$ spenner ut $V_k$.
%Vi sjekker indreproduktet av $\V u_j$ med $\V u_k$. Siden $\V u_j,\V u_m=0$ når $j\neq m$, får vi
%\begin{align*}
%\V u_j,\V u_k&=\V u_j,(\V v_k-\sum_{m=1}^{k-1} \frac{ \V u_m,\V v_k}{\V u_m, \V u_m}\V u_m) \\&=\V u_j,\V v_k-\sum_{m=1}^{k-1} \frac{ \V u_m,\V v_k}{\V u_m, \V u_m}\V u_j,\V u_m \\ &= \V u_j,\V v_k-\V u_j,\V v_k=0.
%\end{align*}
%Vi ser altså at $\V u_k$ står ortogonalt på alle $\V u_j$, og siden $\V u_1,\V u_2,\dots,\V u_{k-1}$ er en ortogonal basis for $V_{k-1}$, står $\V u_k$ ortogonalt på $V_{k-1}$. 
%Siden $\V v_k$ er lineært uavhengig av $\V u_1,\V u_2,\dots,\V u_{k-1}$, og $\V u_k$ er en lineærkombinasjon av $V_k$ og $\V u_1,\V u_2,\dots,\V u_{k-1}$, 
%spenner $\V u_1,\V u_2,\dots,\V u_{k}$ ut $V_k$.
\end{proof}



\noindent Dersom en ortogonal mengde $\V u_1$, $\V u _2$, ...,$\V u_n$ spenner ut et rom $V$, sier vi at mengden er en \defterm{ortogonal basis} for $V$.
Hvis vi har en ortogonal basis for et rom, 
er det veldig lett å finne en vektors kordinater i dette rommet. 
La oss si at vi ønsker å finne vektoren $\V v$ sine komponenter i basisen $(\V u_1,\V u _2,\cdots,\V u_n)$. 
Vektoren skrives
\[
\V v = c_1 \V u_1 + c_2 \V u_2 +...+c_n \V u_n
\]
og komponentene er $(c_1,c_2,\cdots,c_n)$.
Tar vi indreproduktet av begge sidene av likningen med $\V u_k$, 
får vi en haug med kanselleringer, 
og det eneste som står igjen, 
er
\[
(\V u_k,\V v) = c_k (\V u_k,\V u_k),
\]
eller
\[
c_k =\frac{(\V u_k,\V v)}{(\V u_k,\V u_k)} .
\]

\begin{tcolorbox}[title=Det er så lett! ]La $\V u_1$, $\V u _2$, ...,$\V u_n$ være en ortogonal basis for $V$, og la $\V v \in V$. Da er
\[
\V v
= c_1\V u_1 + c_2\V u_2+\dots+c_n\V u_n
\]
der 
\[
c_k=\frac{(\V u_k,\V v)}{(\V u_k,\V u_k)}.
\]
\end{tcolorbox}
Dersom basisen er ortonormal, 
blir teoremet enda enklere, 
og pytagoras gir en ekstra fun fact.

\begin{tcolorbox}[title= Pytagoras II]La $\V u_1$, $\V u _2$, ...,$\V u_n$ være en ortonormal basis for $V$, og la $\V v \in V$. Da er
\[
\V v
= c_1\V u_1 + c_2\V u_2+\dots+c_n\V u_n
\]
der 
\[
c_k=(\V u_k,\V v),
\]
og
\[
\|\V v\|^2
= \sum_{k=1}^n |c_k|^2.
\]
\end{tcolorbox} \begin{proof}
 Dersom basisen er ortonormal, 
 blir 
 \[
 (\V u_k,\V u_k)=1
 \]
 for alle $k$. 
 Tar man indreproduktet av 
 \[
\V v
= c_1\V u_1 + c_2\V u_2+\dots+c_n\V u_n
\]
med seg selv og gjør alle kanselleringer, 
detter 
\[
\|\V v\|^2
= \sum_{k=1}^n |c_k|^2.
\]
ut. 
Jeg har skrevet absoluttverditegn for at det skal være tydelig hvordan 
teoremet ser ut for komplekse indreprodukt, se lenger ned.
 \end{proof}
 
 
 
Det er ikke uvanlig å kalle 
\[
c_k=\frac{(\V u_k,\V v)}{(\V u_k,\V u_k)}
\]
for fourierkoeffisientene. 
Dette vil bli klart litt lenger ned.
Det faktum at
\[
\|\V v\|^2
= \sum_{k=1}^n |c_k|^2.
\]
kalles gjerne Parsevals teorem, 
ihvertfall dersom $n=\infty$. 

\begin{ex}
Dersom du ønsker å løse et lineært likningssystem 
\[
U\V x=\V b,
\]
der søylene i matrisen er reelle og ortogonale vektorer $\V u_1$, $\V u _2$, ...,$\V u_n$,
er det bare å gange på begge sider med $U^T$:
\[
U^TU \V x = U^T\V b
\]
For siden kolonnene til $U$ er ortogonale, 
blir den kvadratiske matrisen $U^TU$ diagonal:
\[
U^TU=
\begin{bmatrix}
\V u_1^T\V u_1 & 0 & 0 & \hdots & 0 \\
0 & \V u_2^T\V u_2 & 0 & \hdots & 0 \\
0 & 0 & \V u_3^T\V u_3  & \hdots & 0 \\
\vdots & \vdots & \vdots & \ddots & \vdots\\
0 & 0 & 0 & \hdots & \V u_n^T\V u_n
\end{bmatrix}
\]
Løsningen av systemet $ U^TU\V x=U^T \V b $ bare å skrive rett opp uten gausselimiasjon:
\[
\V v=
 \frac{\V u_1^T\V b}{\V u_1^T\V u_1}\V u_1 +\frac{\V u_2^T\V b}{\V u_2^T\V u_2}\V u_2+...+\frac{\V u_n^T\V b}{\V u_n^T\V u_n}\V u_n
\]
Vi sier at $U$ er en \defterm{ortogonal matrise} dersom søylene i $U$ er ortogonale.
\end{ex}


Dersom $\V v \notin V$, 
har uttrykket 
\begin{align*}
\frac{(\V u_1,\V v)}{(\V u_1,\V u_1)}\V u_1 + \frac{(\V u_2,\V v)}{(\V u_2,\V u_2)}\V u_2+...+\frac{(\V u_n,\V v)}{(\V u_n,\V u_n)}\V u_n
\end{align*}
allikevel en artig egenskap:
Dette er vektoren i $V$ som er nærmest $\V v$,
målt i lengden gitt av indreproduktet.
\begin{tcolorbox}[title= Kortest avstand]\label{thm:beste_approksimasjon}
La $\V u_1$, $\V u _2$, ...,$\V u_n$ være en ortogonal basis for $V$, og la $\V v \notin V$. Punktet
\[
\V v'
= c_1\V u_1 + c_2\V u_2+...+c_n\V u_n
\]
der 
\[
c_k=\frac{(\V u_k,\V v)}{(\V u_k,\V u_k)}
\]
er det punktet i $V$ som har kortest avstand til $\V v$:
\[
\|\V v-\V v' \|=\min_{\V w \in V} \|\V v-\V w \|
\]
\end{tcolorbox}\begin{proof}
Vi må først bevise at $\V v-\V v'$ står ortogonalt på $V$. 
Rommet $V$ er utspent av $\V u_1$, $\V u _2$, ...,$\V u_n$.
Vi sjekker at $\V v-\V v'$ står ortogonalt på hver $\V u_k$:
\begin{align*}
(\V v-\V v',\V u_k)&=(\V v,\V u_k)-(\V v',\V u_k) \\ &=(\V v,\V u_k)-(\V v,\V u_k) =0
\end{align*}
Dersom $\V w \in V$, ligger også $\V w-\V v'$ i $V$, og da står $\V w-\V v'$ og $\V v-\V v'$ ortogonalt på hverande. Pytagoras' teorem gir
\begin{align*}
\|\V v-\V w \|^2&=\|\V v-\V v'-(\V w-\V v') \|^2\\&= \|\V v-\V v' \|^2 +\|\V w-\V v' \|^2  \geq  \|\V v-\V v' \|^2,
\end{align*}
for alle $\V w \in V$, slik at 
\begin{align*}
\|\V v-\V w \| \geq  \|\V v-\V v' \|,
\end{align*}
og
\[
\|\V v-\V v' \|=\min_{\V w \in V} \|\V v-\V w \|.\qedhere
\]
\end{proof}



\section*{\huge Komplekse indreprodukt}

Dersom $V$ er et vektorrom over $\mathbb C$, 
er det mest  naturlig å kreve at indreproduktet blir et komplekst  tall. 
Reglene blir litt annerledes,
og følgende aksiomer skal gjelde. 

\begin{tcolorbox}[title= Komplekse indreprodukt]
La $V$ være et vektorrom over $\mathbb C$, 
la  $\V u$, $\V v$ og $\V w$ være vektorer, 
og $a$ og $b$ komplekse tall.
Indreproduktet skal være konjugert symmetrisk
\[
(\V v, \V w)=\overline{(\V w, \V v)},
\]
og positivt definitt
\[
(\V v, \V v)>0 \quad \text{dersom} \quad   \V v\neq \V 0,
\]
og 
lineært enten første eller andre faktor.
\end{tcolorbox}

\noindent Linearitet i den ene faktoren, impliserer antilinearitet i den andre faktoren.
Dersom det komplekse indreproduktet er lineært i andre faktor,
\begin{align*}
(\V u,a\V v+b\V w )&=a(\V u, \V v)+b(\V u, \V w) 
\end{align*}
blir det antilineært i første faktor:
\begin{align*}
(a\V u+b\V v,\V w )&=\overline a (\V u, \V w)+\overline b (\V v, \V w) 
\end{align*}
Dersom det er lineært i første faktor,
\begin{align*}
(a\V u+b\V v,\V w )&= a (\V u, \V w)+ b (\V v, \V w) 
\end{align*}
blir det antilineært i andre faktor:
\begin{align*}
(\V u,a\V v+b\V w )&=\overline a (\V u, \V v)+\overline b (\V u, \V w) 
\end{align*}
Forskjellige fagfelt foretrekker forskjellig versjon, 
så det er greit å vite om at dette kan gjøres på to måter. 
Vi skal ha mest bruk for den varianten som er lineær i første faktor,
for det er denne som er vanlig i fourieranalyse.
Relle indreprodukt er lineære i begge faktorer, 
så da faller problemstillingen bort.


\begin{ex}
La $V$ være et vektorrom av integrerbare funksjoner $f:[-\pi,\pi]\to \mathbb C$. 
Uttrykket
\[
(f,g)=\int_{-\pi}^\pi f(x)\overline{g(x)}\; dx.
\]
definerer et komplekst indreprodukt på $V$,
og funksjonene $e^{int}$ er ortogonale med hensyn på dette indreproduktet.
Dette indreproduktet er lineært i første faktor.
\end{ex}

 \begin{ex}
 La
\[
A =
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{bmatrix}
\]
være en kompleks $m \times n$-matrise. Hvis vi transponerer $A$ og komplekskonjugerer komponentene,
får vi den \defterm{adjungerte} matrisen
\[
A^* =
\begin{bmatrix}
\overline a_{11} & \overline a_{21} & \cdots & \overline a_{m1} \\
\overline a_{12} & \overline a_{22} & \cdots & \overline a_{m2} \\
\vdots & \vdots & \ddots & \vdots \\
\overline a_{1n} & \overline a_{2n} & \cdots & \overline a_{mn}
\end{bmatrix}.
\]
%Adjungering fungerer i bunn og grunn som transponering av reelle matriser. 
%Å adjungere en reell matrise er det samme som å transponere den,
%og agjungering følger også regnereglene
%\[
%(A^*)^* = A
%\]
%og 
%\[
%(AB)^* = B^* A^*.
%\]
La $\V{v}$ og $\V{w}$ være søylevektorer i $\mathbb{C}^n$. 
\defterm{Indreproduktet} mellom dem er som regel definert som:
\[
(\V{v}, \V{w})=\V{v}^* \V{w}= \overline v_1 w_1 + \overline v_2 w_2 + \cdots +\overline v_n w_n
 \] 
 Merk at $(\V{v},\V{v})$ består av de kvadrerte absoluttverdiene til komponentene til $\V v$, 
 slik at at vi får et fornuftig mål på lengden til $\V v$. 
 (Dersom $n=1$, 
 klapper dette sammen til å bli modulus til et komplekst tall.)

 Dette indreproduktet er lineært i andre faktor, 
 som antagelig springer ut fra tradisjonen med å fokusere på søylevektorer. 
 Skulle vi hatt et indreprodukt som var lineært i første faktor,
 hadde det vært mer naturlig å si at
 $\V{v}$ og $\V{w}$ var radvektorer i $\mathbb{C}^n$, 
og definere
\[
(\V{v}, \V{w})=\V{v} \V{w}^*=  v_1 \overline w_1 +  v_2 \overline w_2 + \cdots + v_n \overline w_n,
 \] 
 men dette er altså ikke denne varianten som er vanligst i bruk.
\end{ex}

Akkurat som for reelle indreprodukt, 
har vi at $(\V w,\V v)=0$ dersom $(\V v,\V w)=0$.
De fleste teoremene vi beviste for reelle indreproduktrom, 
gjelder for komplekse indreproduktrom,
men unntaket er Pytagoras' teorem,
som blir litt annerledes;
implikasjonen går bare en vei når indreproduktet er komplekst.

\begin{tcolorbox}[title= Pytagoras III]Dersom vektorene $\V v$ og $\V w$ er ortogonale, er
\[
\|\V v+\V w\|^2=\|\V v\|^2+\|\V w\|^2.
\]
\end{tcolorbox}
\begin{proof}
Vi vet at 
\begin{align*}
\|\V v+\V w \|^2&=(\V v+\V w,\V v+\V w)\\
&=(\V v,\V v)+(\V v,\V w)+(\V w,\V v)+(\V w,\V w)\\ 
& =\|\V v\|^2 +(\V v,\V w)+(\V w,\V v)+\|\V w\|^2\\ 
&=\|\V v\|^2 +\|\V w\|^2
\end{align*}
siden $(\V v,\V w)=(\V w,\V v)=0$.
\end{proof}

\begin{ex}
I den komplekse varianten av Pytagoras' teorem er det kun enveis implikasjon.
Det er nemlig ikke nødvendigvis sant at $(\V v,\V w)=0$ dersom 
\[
\|\V v-\V w \|^2=\| \V v\|^2 +\|\V w\|^2,
\]
for uttrykket 
\[
(\V v,\V w)+(\V w,\V v)
\]
kan kansellere på andre måter enn at begge indreprodukt er null.
Se øvingsopplegg.
\end{ex}

 \begin{ex}
 Vektorene 
 \[
 \begin{bmatrix}
 1 \\ 
 i 
 \end{bmatrix}
 \quad
 \text{og}
 \quad
  \begin{bmatrix}
 i \\ 
1
 \end{bmatrix}
\]
er ortogonale. 
 \end{ex}
 
 Den ortogonale projeksjonen må defineres som 
 \[
P_{\V v}(\V w)=\frac{(\V w,\V v)}{(\V v,\V v)}\V v,
\]
eller 
\[
P_{\V v}(\V w)=\frac{(\V v,\V w)}{(\V v,\V v)}\V v,
\]
 alt etter om man opererer med et indreprodukt som er lineært i første eller andre faktor. 
En lineæravbildning skal jo være lineær, 
ikke antilineær! 
 

\begin{ex}
La oss projisere vektoren 
\[
\V w=
\begin{bmatrix}
 -5i  \\
 0  \\
2i 
\end{bmatrix}
\]
både på og normalt på
\[
\V v=
\begin{bmatrix}
 3 \\
 -i \\
 4
\end{bmatrix}.
\]
Vi beregner:
\[
(\V v, \V v)=3\cdot 3+i\cdot (-i)+4\cdot 4=26
\]
og
\[
(\V v, \V w) = 3 \cdot (-5i) + i \cdot 0 + 4 \cdot 2i = -7i
\]
slik at
\begin{align*}
P_{\V v}(\V w) =\frac{ (\V v,\V w)}{(\V v, \V v)} \V v =
\frac{-7i}{26}
\begin{bmatrix}
 3 \\
 -i \\
 4
\end{bmatrix}
\end{align*}
og 
\begin{align*}
 \V w-P_{\V{v}}(\V w)&=\V w-\frac{ (\V v,\V w)}{(\V v, \V v)} \V v \\&= 
\begin{bmatrix}
 -5i  \\
 0  \\
2i 
\end{bmatrix}
-
\frac{-7i}{26}
\begin{bmatrix}
 3 \\
 -i \\
 4
\end{bmatrix}
=
\frac{1}{26}
\begin{bmatrix}
 -109i \\
 7 \\
 80i
\end{bmatrix}\qedhere
\end{align*} 
\end{ex}


\begin{ex}
Partialsummen til en fourierrekke
\[
S_N(t)=\sum_{n=-N}^{N}c_n e^{in t}
\] 
der 
\[
c_n=\frac{1}{2\pi}\int_{-\pi}^{\pi} f(t) e^{-int}\; dt, 
\]
er en ortogonal projeksjon av $f$ ned i vektorrommet utspent av funksjonene $e^{int}$ for $-N \leq n\leq N$.
Dersom $N\to \infty$, 
utgjør disse funksjonene en basis for et uendeligdimensjonalt vektorrom som heter $L^2(-\pi,\pi)$,
og for alle $f$ i dette rommet er det riktig å skrive at 
\[
f(t) = \sum_{n=-\infty}^{\infty}c_n e^{in t}.
\]
Dette kan ikke vi vise, 
for det er ganske kompliert,
og man må først gjennom et komplisert kurs i noe som heter funksjonalanalyse.
Men det er greit å vite at fourierrekker egentlig bare er lineæralgebra. 
Matematikkens styrke er at mange ting som ser helt forskjellige ut, 
oppfører seg temmelig likt. 
Man må bare studere oppførselen nøye,
litt som en etolog som studerer \href{https://www.youtube.com/watch?v=YVQN3rkD5UU}{sjimpanser}, \href{https://www.youtube.com/watch?v=NeaAZ1On-w8}{gorillaer}, \href{https://www.youtube.com/watch?v=IFACrIx5SZ0}{orangutanger} eller \href{https://www.youtube.com/watch?v=Bm1q-V2b1Sc}{fjellbavianer}. 
\end{ex}

%
%
%\begin{ex}
%Hvis vi lar $A$ være matrisen
%\[
%A =
%\begin{bmatrix}
%5i & 0 & -2i \\
%3 & i &  4
%\end{bmatrix},
%\]
%så er den adjungerte av~$A^*$ gitt ved:
%\[
%A^* =
%\begin{bmatrix}
% -5i & 3 \\
% 0 & -i \\
%2i & 4
%\end{bmatrix}
%\]
%Hvis vi adjungerer denne matrisen igjen, så kommer vi tilbake til
%utgangspunktet:
%\[
%(A^*)^* = A\qedhere
%\]
%\end{ex}





\section*{\huge Minste kvadraters metode}
Dette er en teknikk for å finne tilnærmede løsninger til lineære systemer med flere likninger enn ukjente.
Teoremet om kortest avstand forteller hvordan vi kan gjøre dette på en fornuftig måte om vi har en ortogonal basis for søylerommet til matrisen.
Minste kvadraters metode er en teknikk som finner den samme løsningen,
men som ikke avhenger av at vi har en ortogonal basis for søylerommet.


La oss si at $A$ er en $m \times n$-matrise, 
at $\V x$ og $\V b$ er kolonnevektorer i $\mathbb{C}^n$, 
og at vi ønsker å betrakte systemet
\[
A\V x=\V b
\]
for $m>n$. 
Dette systemet vil ikke ha noen løsning med mindre $\V b$ tilfeldigvis ligger i kolonnerommet til $A$, 
så vi ønsker istedet å finne den $\V x$ som minimerer avstanden fra $A\V x$ til $\V b$.
Hvis vi krever at vektoren $A\V x-\V b$ står ortogonalt på kolonnerommet til $A$, 
oppnår vi dette.
Altså må vi ha
\[
A^*(A\V x-\V b)=\V 0
\]
eller 
\[
A^*A\V x=A^*\V b.
\]
Dette er et $n \times n$-system som kalles normallikningene. Løsningen av systemet gir den $\V x$ som minimerer avstanden fra $A\V x$ til $\V b$.
\begin{ex}
Vi ønsker å bruke minste kvadrats metode på systemet med totalmatrise
\[
\begin{amatrix}{2}
0 & 1   & 1-i\\
i & i &  1+i\\
 0 & i   & i
\end{amatrix}
\]
Vi ganger matrisen på venstre side av likningssystemet med sin adjungerte
\[
\begin{bmatrix}
0 & -i   & 0\\
1 & -i &  -i
\end{bmatrix}
\]
og får 
\[
\begin{bmatrix}
0 & -i   & 0\\
1 & -i &  -i
\end{bmatrix}
\begin{bmatrix}
0 & 1\\
i & i \\
 0 & i
\end{bmatrix}
=
\begin{bmatrix}
1 & 1\\
 1 & 3
\end{bmatrix}.
\]
Vi ganger høyresiden med den adjungerte av venstresiden, og får
\[
\begin{bmatrix}
0 & -i   & 0\\
1 & -i &  -i
\end{bmatrix}
\begin{bmatrix}
 1-i\\
 1+i \\
 i
\end{bmatrix}
=
\begin{bmatrix}
 1-i\\
 3-2i
\end{bmatrix}
\]
Løsningen av systemet med totalmatrise
\[
\begin{amatrix}{2}
1 & 1   & 1-i\\
1 & 3 &  3-2i
\end{amatrix}
\]
er 
\[
\begin{bmatrix}
-i/2  \\
1-i/2  
\end{bmatrix}.
\]
Dette betyr at vektoren 
\[
\begin{bmatrix}
0 & 1   \\
i & i   \\
 0 & i   
\end{bmatrix}
\begin{bmatrix}
-i/2 \\
1-i/2  
\end{bmatrix}
=
\begin{bmatrix}
1-i/2    \\
1+i   \\
 1/2+i
\end{bmatrix}
\]
er det punktet i kolonnerommet til matrisen 
\[
\begin{bmatrix}
0 & 1   \\
i & i   \\
 0 & i   
\end{bmatrix}
\]
som minimerer avstanden til punktet
\[
\begin{bmatrix}
1-i\\
 1+i\\
 i
\end{bmatrix}\qedhere
\]
\end{ex}

\section*{\huge Regresjon}
Hvis du har $n+1$ punkter $(x_i,y_i)$ i $\R^2$, der $x_i$ er forskjellig for alle punktene, 
vil det alltid være mulig å finne et reelt polynom 
\[
p(x)=a_nx^n+a_{n-1}x^{n-1}+...+a_1x+a_0
\]
hvis graf går gjennom alle disse punktene, 
altså at
\[
p(x_i)=y_i
\]
for alle $1\leq i \leq n+1$. 
Dette kalles \defterm{interpolasjon}. 
Likningene over utgjør et $(n+1)\times (n+1)$-likningssystem for koeffisientene $a_i$ med totalmatrise
\[
\begin{amatrix}{5}
x_{1}^{n} & x_{1}^{n-1} & \hdots  & x_{1} & 1 & y_1\\
x_{2}^{n} & x_{2}^{n-1} & \hdots  & x_{2} & 1 & y_2\\
\vdots  & \vdots & \ddots  & \vdots & \vdots & \vdots\\
x_{n+1}^{n} & x_{n+1}^{n-1} & \hdots  & x_{n+1} & 1 & y_{n+1}\\
\end{amatrix}
\]
Vi vet jo fra Lagrangeinterpolasjon at dette likningssystemet må ha en entydig løsning 
siden det finnes et entydig interpolasjonspolynom så lenge $x_j\neq x_k$ for $j \neq k$.


\begin{ex}
Vi prøver å finne et annengradspolyom som går gjennom punktene
\[
\begin{bmatrix}
0 \\ 1
\end{bmatrix}, \;
\begin{bmatrix}
1 \\ 0
\end{bmatrix} \;
\quad \text{og} \quad
\begin{bmatrix}
2 \\ 1
\end{bmatrix}.
\]
Et annengradspolynom skrives $p(x)=ax^2+bx+c$, så likningssystemet blir 
\begin{align*}
                   c &= 1 \\
    a + b + c  &= 0 \\
    4a + 2b + c &= 1
\end{align*}
Løsningen er $a=1$ , $b=-2$ og $c=1$, slik at polynomet blir $p(x)=x^2-2x+1=(x-1)^2$. Det er lett å sjekke at polynomet tar de rette verdiene i $x=0$, $x=1$ og $x=2$.
\end{ex}


\noindent Dersom man prøver å gjøre den samme prosessen med et polynom som har orden $m < n$ , vil man få det overbestemte $(n+1)\times (m+1)$systemet 
\[
\begin{amatrix}{5}
x_{1}^{m} & x_{1}^{n-1} & \hdots  & x_{1} & 1 & y_1\\
x_{2}^{m} & x_{2}^{n-1} & \hdots  & x_{2} & 1 & y_2\\
\vdots  & \vdots & \ddots  & \vdots & \vdots & \vdots\\
x_{n+1}^{m} & x_{n+1}^{n-1} & \hdots  & x_{n+1} & 1 & y_{n+1}\\
\end{amatrix}
\]
Bruker man så minste kvadrats metode på dette systemet, 
får man et polynom som passer ganske bra til punktene uten at grafen går gjennom hvert enkelt punkt - 
dette kalles \defterm{regresjon}.

\begin{ex}
Vi prøver å finne et annengradspolyom som går gjennom punktene
\[
\begin{bmatrix}
0 \\ 1
\end{bmatrix}, \;
\begin{bmatrix}
1 \\ 0
\end{bmatrix}, \;
\begin{bmatrix}
2 \\ 1
\end{bmatrix} \;
\quad \text{og} \quad
\begin{bmatrix}
3 \\ 2
\end{bmatrix} .
\]
Likningssystemet blir nå
\begin{align*}
                   c =& 1\\
    a + b + c  =& 0 \\
    4a + 2b + c =& 1\\
    9a + 3b + c =& 2
\end{align*}
Dette systemet har ingen løsning, men vi kan bruke minste kvadrats metode til å finne et polynom som passer ganske bra. Matrisen er:
\[
A=
\begin{bmatrix}
0 & 0 & 1 \\  1&1 &1 \\ 4& 2&1 \\ 9& 3& 1
\end{bmatrix}, 
\]
mens høyresiden $\V b$ er:
\[
\V b=
\begin{bmatrix}
1 \\ 0 \\ 1 \\ 2
\end{bmatrix}.
\]
Den adjungerte $A^*$ er:
\[
A^*=
\begin{bmatrix}
0 & 1 & 4 & 9\\  0&1 &2 & 3\\ 1& 1&1 &1 
\end{bmatrix}.
\]
Vi ganger $A^*$ med $A$ og $\V b$, og får 
\[
A^*A=
\begin{bmatrix}
0 & 1 & 4 & 9\\  0&1 &2 & 3\\ 1& 1&1 &1 
\end{bmatrix}
\begin{bmatrix}
0 & 0 & 1 \\  1&1 &1 \\ 4& 2&1 \\ 9& 3& 1
\end{bmatrix} 
=
\begin{bmatrix}
98 & 36 & 14 \\  36 &14 & 6\\ 14& 6&4
\end{bmatrix}
\]
og 
\[
A^*\V b=
\begin{bmatrix}
0 & 1 & 4 & 9\\  0&1 &2 & 3\\ 1& 1&1 &1 
\end{bmatrix}
\begin{bmatrix}
1 \\ 0 \\ 1 \\ 2
\end{bmatrix} 
=
\begin{bmatrix}
22 \\ 8 \\ 4 
\end{bmatrix}
\]
Vi må løse systemet $A^*A=A^*\V b$, altså systemet med totalmatrise
\[
\begin{amatrix}{3}
98 & 36 & 14 & 22\\  36 &14 & 6 & 8\\ 14& 6&4 & 4
\end{amatrix}.
\]
Løsningen er 
\[
\begin{bmatrix}
1/2 \\ -11/10 \\ 9/10
\end{bmatrix}
\]
slik at polynomet blir 
\[
p(x)= \frac{1}{2}x^2  -\frac{11}{10}x + \frac{9}{10}. \qedhere
\]
\end{ex}


\begin{ex}
Når statistikere snakker om regresjonslinje, 
snakker de om et første ordens polynom som prøver å reise gjennom en punktmengde med litt for mange punkter, 
der minste kvadraters metode er brukt for å finne noen koeffisienter som får linjen til å passe ganske bra til punktene. 
La oss gjøre dette for punktmengden i eksemplet over:
\[
\begin{bmatrix}
0 \\ 1
\end{bmatrix}, \;
\begin{bmatrix}
1 \\ 0
\end{bmatrix}, \;
\begin{bmatrix}
2 \\ 1
\end{bmatrix} \;
\quad \text{og} \quad
\begin{bmatrix}
3 \\ 2
\end{bmatrix} .
\]
Regresjonslinjen er gitt ved $p(x)=ax+b$, så likningssystemet blir
\begin{align*}
      b   =& 1 \\
a +  b =& 0 \\
 2a + b =& 1 \\
 3a + b =& 2
\end{align*}
Dette systemet har ingen løsning. 
Vi bruker minste kvadrats metode, 
og beregner

\[
A^*A=
\begin{bmatrix}
 0&1 &2 & 3\\ 1& 1&1 &1 
\end{bmatrix}
\begin{bmatrix}
 0 & 1 \\  1 &1 \\  2&1 \\  3& 1
\end{bmatrix} 
=
\begin{bmatrix}
  14 & 6\\ 6&4
\end{bmatrix}
\]
og 
\[
A^*\V b=
\begin{bmatrix}
 0&1 &2 & 3\\ 1& 1&1 &1 
\end{bmatrix}
\begin{bmatrix}
1 \\ 0 \\ 1 \\ 2
\end{bmatrix} 
=
\begin{bmatrix}
 8 \\ 4 
\end{bmatrix}
\]
Løsningen til  $A^*A=A^*\V b$ blir
\[
\frac{1}{5}
\begin{bmatrix}
2 \\ 2
\end{bmatrix}
\]
slik at regresjonslinjen blir
\[
p(x)= \frac{2}{5}\left(x +1\right). \qedhere
\]
\end{ex}




\kapittelslutt

