\input{kapittel}

\kapittel{2}{Konkret lineæralgebra}

Det er lurt å begynne matematikkstudiet med litt grunnleggende lineæralgebra.
Dette er både nyttig å kunne, 
og ikke så vanskelig å lære seg, 
sammenliknet med differensial- og integralregning.
Flervariabel kalkulus blir dessuten mye lettere å lære om man kan lineæralgebra.

\begin{tcolorbox}
Alternative kilder: 
\begin{itemize}
\item Lindstrøm FVLA kap. 1 og 3
\item Kreyszig kap. 7 og 8
\end{itemize}
\end{tcolorbox}

\section*{\huge Gausseliminasjon}

Standardmetoden for å løse lineære likningssystemer kalles gausseliminasjon,
til tross for at metoden ikke er oppfunnet av Carl Friedrich Gauss.
Metoden består i å forenkle likningssystemet steg for steg uten å endre løsningsmengden. 

Det er lettest å lære denne metoden gjennom et regneeksempel.
Vi skal løse
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x   & + &   3y   & + &      4z  &  =   &  4 \\
3x   & + &  4y   & + &       5z   &  =   &  5 \\
4x   &  + &    5y   &  + &   7z   &  =   &  3 
\end{array}
\]
Fra videregående skole husker du kanskje at hver av disse likningene beskriver et plan,
og geometrisk sett leter likningssystemet etter et punkt $(x,y,z)$ som ligger på alle tre plan samtidig. 
Hvis tar tre A4-ark og fikler litt med dem, 
bør det være klart at et slikt likningssystem kan ha enten en,
mange, eller ingen løsninger.

Før vi løser likningssystemet,
skal vi bytte notasjon.
Det er bedre å skrive
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
3x_1   & + &  4x_2   & + &       5x_3   &  =   &  5 \\
4x_1   &  + &    5 x_2   &  + &   7x_3   &  =   &  3 
\end{array}
\]
for dette er mer praktisk når likningssystemene blir store.
Et likningssystem i en moderne anvendelse kan fint ha en milliard likninger,
men det lengste moderne alfabetet inneholder bare 74 tegn: \\
\url{https://en.wikipedia.org/wiki/Khmer_script}



\begin{ex}
Det første vi gjør,
er å observere at dersom vi ganger den første likningen med 3 og den andre likningen med 2 og trekker dem fra hverandre:
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
3( 2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 )\\
-2(   3x_1   & + &  4x_2   & + &       5x_3   &  =   &  5 )\\
\end{array}
\]
får vi likningen 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
&  &   x_2   & + &      2x_3  &  =   &  2 \\
\end{array}
\]
Det neste er å observere at en eventuell løsning av likningssystemet også må tilfredsstille denne nye likningen, 
siden den er en konsekvens av to likninger i det opprinnelige systemet. 
Hvis vi bytter ut den opprinnelige likning 2 med den nye likningen,
får vi 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
&  &   x_2   & + &      2x_3  &  =   &  2 \\
4x_1   &  + &    5 x_2   &  + &   7x_3   &  =   &  3 
\end{array}
\]
Det er nå også slik at likningen vi hev ut 
er en konsekvens av de to første likningene i det nye systemet,
så det nye systemet må pent ha de samme løsningene som systemet vi startet med.

Fordelen med det nye systemet er at det er litt enklere, 
en av $x_1$-ene er blitt borte.
Kanskje det er slik at vi kan skrelle av så mye greier at løsningen til slutt står skrevet svart på hvitt på siden?
Slik er det. 
La oss nå ta for oss likning 1 og 3, 
og regne ut
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2( 2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 )\\
-(   4x_1   & + &  5x_2   & + &       7x_3   &  =   &  3 )\\
\end{array}
\]
som blir 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
&  &   x_2   & + &      x_3  &  =   &  5 \\
\end{array}
\]
og bytte ut likning 3:
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
&  &   x_2   & + &      2x_3  &  =   &  2 \\
&  &   x_2   & + &      x_3  &  =   &  5 \\
\end{array}
\]
Hvis vi nå trekker likning 3 fra likning 2 i dette systemet og bytter ut likning 3,
får vi 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
&  &   x_2   & + &      2x_3  &  =   &  2 \\
&  &     &  &      x_3  &  =   &  -3 \\
\end{array}
\]
og nå har vi oppnådd en form på systemet som er spesielt gunstig,
nemlig trappeform.
Verdien til $x_3$ kommer nå tydelig frem av likningssystemet,
og vi kan jobbe oss oppover og beregne
\[
x_2=2-2\cdot (-3)=8
\]
og 
\[
x_1=(4-3\cdot 8 - 4\cdot (-3))/2=-4
\]
som er den korrekte løsningen.
\end{ex}

Hvis man har utført denne prosedyren noen ganger,
blir man sliten i hånden, 
og lei av å skrive ned $x_2$ og $=$ og så videre. 
Følgende kompakte notasjon er bedre:
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 7 &3
\end{amatrix}
\]
Vi bruker symbolet $\sim$ for å signalisere at vi har utført et gausseliminasjonssteg som ikke endrer løsningsmengden,
slik at beregningen over kan skrives
\begin{align*}
&\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 7 &3
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
4 & 5 & 7 &3
\end{amatrix}
\sim \\
&\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
0 & 1 & 1 &5
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
0 & 0 & 1 &-3
\end{amatrix}
\end{align*}
Med litt trening er dette lettere å lese.

\begin{ex}
La oss nå ta et med komplekse tall:
\begin{align*}
(1-i) z + 3w   &= 2-3i \\
i z + (1+2i) w &= 1
\end{align*}


Likningssystemet har totalmatrise
\[
\begin{amatrix}{2}
1-i & 3 & 2-3i \\ i &1+2i & 1
\end{amatrix}.
\]
Vi ønsker å kvitte oss med $i$-en til venstre i den andre raden. 
Den første raden ganget  med $\frac{i}{1-i}$ er
\[
\begin{amatrix}{2}
i & \frac{3i}{1-i} & \frac{3+2i}{1-i} 
\end{amatrix}.
\]
Vi trekker dette fra den andre raden og erstatter den andre raden med resultatet:
\[
\begin{amatrix}{2}
1-i & 3 & 2-3i \\ 0 &1+2i -\frac{3i}{1-i} & 1-\frac{3+2i}{1-i} 
\end{amatrix}.
\]
Jeg tror vi ganger den andre raden med $1-i$ for å rydde litt:
\[
\begin{amatrix}{2}
1-i & 3 & 2-3i \\ 0 &3 -2i  & -2-3i
\end{amatrix}
\]
Vi er nå klare for å beregne $w$ og $z$:
\begin{align*}
w&=\frac{-2-3i}{3-2i}=\frac{-2-3i}{3-2i}\cdot \frac{3+2i}{3+2i}=-i \\
z&=\frac{2-3i-3(-i)}{1-i}=1+i \qedhere
\end{align*}
\end{ex}


\section*{\huge Matriser og vektorer}

Men lineære likningssystemer kan ha flere løsninger. 
La oss løse systemet
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\]
Vi kan stort sett bruke de samme eliminasjonsstegene som i forrige runde,
men resultatet blir at en hel likning forsvinner:
\begin{align*}
&\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
4 & 5 & 6 &6
\end{amatrix}
\sim \\
&\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
0 & 1 & 2 &2
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
0 & 0 & 0 &0
\end{amatrix}
\end{align*}

Likningssystemet 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
3x_1   & + &  4x_2   & + &       5x_3   &  =   &  5 \\
4x_1   &  + &    5 x_2   &  + &   6x_3   &  =   &  6 
\end{array}
\]
 har altså de samme løsningene som likningssystemet
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
  2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 \\
  &  &  x_2   & + &       2x_3   &  =   &  2 \\
\end{array}
\]
Hvis vi nå velger $x_3=s$, 
må $x_2=2-2s$ og $x_1=s-1$.
Det spiller ingen rolle hva $s$ er, 
det blir en løsning uansett. 
Prøv selv med $s=2$ eller $s=1+i$ eller hva som helst.

Men nå er det på tide å innføre litt mer notasjon. 
En kolonnevektor er
\begin{align*}
\mathbf{x}=
\left(\;\begin{matrix}
x_1  \\
x_2 \\
\vdots \\
x_n
\end{matrix}\;\right)
\end{align*}
og en radvektor er 
\begin{align*}
\mathbf{x}=
\left(\;\begin{matrix}
x_1  &
x_2 &
\cdots &
x_n
\end{matrix}\;\right)
\end{align*}
De to viktigste regnereglene for vektorer er skalarmultiplikasjon
\begin{align*}
a\mathbf{x}=
\left(\;\begin{matrix}
ax_1  \\
ax_2 \\
\vdots \\
ax_n
\end{matrix}\;\right)
\end{align*}
og vektoraddisjon
\begin{align*}
\mathbf{x}+\mathbf{y}=
\left(\;\begin{matrix}
x_1  \\
x_2 \\
\vdots \\
x_n
\end{matrix}\;\right)
+
\left(\;\begin{matrix}
y_1  \\
y_2 \\
\vdots \\
y_n
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
x_1 + y_1  \\
x_2 + y_2\\
\vdots \\
x_n + y_n
\end{matrix}\;\right)
\end{align*}
(Tilsvarende for radvektorer.)
En sammensetning av operasjonene
\begin{align*}
a\mathbf{x}+b\mathbf{y}=
a
\left(\;\begin{matrix}
x_1  \\
x_2 \\
\vdots \\
x_n
\end{matrix}\;\right)
+
b
\left(\;\begin{matrix}
y_1  \\
y_2 \\
\vdots \\
y_n
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
ax_1 + by_1  \\
ax_2 + by_2\\
\vdots \\
ax_n + by_n
\end{matrix}\;\right)
\end{align*}
kalles en \emph{lineærkombinasjon}. Skalarene $a$ og $b$ kalles vekter. 
Hvis vi har $m$ vektorer $\mathbf{x}_k$, definerer vi \emph{det lineære spennet}, eller
\begin{equation*}
\text{Sp}\{\mathbf{x}_1,\mathbf{x}_2,...,\mathbf{x}_m\}
\end{equation*}
som alle lineærkombinasjoner av vektorene, altså alle vektorer på formen
\begin{equation*}
a_1\mathbf{x}_1+a_2\mathbf{x}_2+...+a_m\mathbf{x}_m.
\end{equation*}
\begin{ex}
\begin{equation*}
3\left(\;\begin{matrix}1 \\  2 \\ 3 \end{matrix}\;\right)+ 
2\left(\;\begin{matrix}4 \\  5 \\ 6 \end{matrix}\;\right)=
\left(\;\begin{matrix}11 \\  16 \\ 21 \end{matrix}\;\right). \qedhere
\end{equation*}
\end{ex}

\begin{ex}
\noindent Spennet til vektorene i eksemplet over, er alle vektorer på formen
\begin{equation*}
a\left(\;\begin{matrix}1 \\  2 \\ 3 \end{matrix}\;\right)+ b\left(\;\begin{matrix}4 \\  5 \\ 6 \end{matrix}\;\right).\qedhere
\end{equation*}
\end{ex}


La oss først introdusere:
\begin{tcolorbox}[title=Matrise]
En $m \times n$-matrise $A$ er et tableau med tall
\[
A=
\left(\;\begin{matrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{matrix}\;\right)
\]
\end{tcolorbox}

Disse her 
\[
\vvvv{a_{11}}{a_{21}}{\vdots}{a_{m1}}\qquad
\vvvv{a_{12}}{a_{22}}{\vdots}{a_{m2}}\qquad
\cdots\qquad
\vvvv{a_{1n}}{a_{2n}}{\vdots}{a_{mn}}\qquad
\]
kalles matrisens kolonner, 
og disse 
\begin{gather*}
\left(\;\begin{matrix}
a_{11} & a_{12} & \cdots & a_{1n}
\end{matrix}\;\right)
\\
\left(\;\begin{matrix}
a_{21} & a_{22} & \cdots & a_{2n}
\end{matrix}\;\right)
\\
\vdots
\\
\left(\;\begin{matrix}
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{matrix}\;\right)
\end{gather*}
kalles matrisens rader.

Legg merke til at venstresiden i hver likning i et likningssystem er et skalarprodukt. 
Likningen 
\[
\setlength\arraycolsep{1pt}
\begin{array}{rcrcrc@{\;}l}
  2x_1   & + &   3x_2   & + &      4x_3  &  =   &  4 
\end{array}
\]
sier for eksempel at skalarproduktet mellom vektorene $(2,3,4)$ og $(x_1,x_2,x_3)$ skal være lik 4. 
Vi definerer derfor
\begin{tcolorbox}[title=Matriseprodukt]
Dersom $A$ og $B$ er matriser med dimensjoner ${m\times n}$ og $n \times p$,
er elementet $c_{ij}$ i produktet $C=AB$ gitt ved 
\[
c_{ij}=\sum_{k=1}^n a_{ik} b_{kj} 
\]
altså skalarproduktet mellom rad nummer $i$ i $A$ og kolonne nummer $j$ i $B$.
\end{tcolorbox}

Dette ser forferdelig ut ved første øyekast,
men er ikke så ille når man blir varm i trøyen.

\begin{ex}
\[
\left(\;\begin{matrix}
1 & 2 & 3 \\
4 & 5 & 6 
\end{matrix}\;\right)
\left(\;\begin{matrix}
7\\
8\\
9
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
50\\
122
\end{matrix}\;\right)
\qedhere
\]
\end{ex} 

\begin{ex}
\[
\left(\;\begin{matrix}
0 & 1  \\
2 & 3 
\end{matrix}\;\right)
\left(\;\begin{matrix}
4 & 5& 6  \\
7 & 8 & 9 
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
7 & 8& 9  \\
29 & 34 & 39 
\end{matrix}\;\right)
\qedhere
\]
\end{ex} 



\begin{ex}
\[
\left(\;\begin{matrix}
2 & 3 & 4 \\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
x_1\\
x_2\\
x_3
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
2x_1+3x_2+4x_3\\
3x_1+4x_2+5x_3\\
4x_1+5x_2+6x_3
\end{matrix}\;\right)
\qedhere
\]
\end{ex} 

Vi ser nå at likningssystemet 
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\]
kan skrives 
\[
\left(\;\begin{matrix}
2 & 3 & 4 \\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
x_1\\
x_2\\
x_3
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
4\\
5\\
6
\end{matrix}\;\right)
\]
og dette åpner opp for veldig mange nye og interessante greier. 
For det første kan vi nå definere 
\[
A=
\left(\;\begin{matrix}
2 & 3 & 4 \\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\]
som gjerne kalles systemmatrisen, 
og 
\[
\mathbf x=
\left(\;\begin{matrix}
x_1\\
x_2\\
x_3
\end{matrix}\;\right)
\]
og 
\[
\mathbf b=
\left(\;\begin{matrix}
4\\
5\\
6
\end{matrix}\;\right)
\]
og skrive hele systemet veldig kompakt:
\[
A\mathbf x=\mathbf b
\]
For det andre kan vi nå tenke på venstresiden i likningssystemet som en funksjon 
\[
T(\mathbf x)=A\mathbf x
\]
og dette er veldig viktig. 

Vel vel. 
La oss gå tilbake til eksemplet 
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
0 & 1 & 2 &2 \\
\end{amatrix}
\]
Vi ble enige om at $x_3=s$, 
må $x_2=2-2s$ og $x_1=s-1$, 
eller 
\[
\left(\;\begin{matrix}
x_1\\
x_2\\
x_3
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
s-1\\
2-2s\\
s
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
-1\\
2\\
0
\end{matrix}\;\right)
+
s
\left(\;\begin{matrix}
1\\
-2\\
1
\end{matrix}\;\right)
\]
om du vil.
Uttrykket 
\[
\mathbf x(s)=
\left(\;\begin{matrix}
x_1(s)\\
x_2(s)\\
x_3(s)
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
-1\\
2\\
0
\end{matrix}\;\right)
+
s
\left(\;\begin{matrix}
1\\
-2\\
1
\end{matrix}\;\right)
\]
kalles gjerne løsningens parametrisering.
Du kjenner kanskje igjen parametriseringen for en rett linje fra videregående?

\section*{\huge Lineær uavhengighet}

Nå lurer du kanskje på hvorfor likningssystemet
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 7 &3
\end{amatrix}
\]
har entydig løsning,
mens likningssystemet
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\]
har uendelig mange.
Det beste begrepet for å uttrykkene følelsene sine om dette på en presis måte kalles lineær uavhengighet.
Men la oss først se litt på venstresiden av likningssystemene på enda en måte. 

Vi husker fra skolen at vi kan gange vektorer med skalarer:
\begin{align*}
a\mathbf{x}=
\left(\;\begin{matrix}
ax_1  \\
ax_2 \\
\vdots \\
ax_n
\end{matrix}\;\right)
\end{align*}
og legge vektorer sammen:
\begin{align*}
\mathbf{x}+\mathbf{y}=
\left(\;\begin{matrix}
x_1  \\
x_2 \\
\vdots \\
x_n
\end{matrix}\;\right)
+
\left(\;\begin{matrix}
y_1  \\
y_2 \\
\vdots \\
y_n
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
x_1 + y_1  \\
x_2 + y_2\\
\vdots \\
x_n + y_n
\end{matrix}\;\right)
\end{align*}
Kombinerer vi disse operasjonene, 
får vi noe som kalles en lineærkombinasjon:
\begin{align*}
a\mathbf{x}+b\mathbf{y}=
a
\left(\;\begin{matrix}
x_1  \\
x_2 \\
\vdots \\
x_n
\end{matrix}\;\right)
+
b
\left(\;\begin{matrix}
y_1  \\
y_2 \\
\vdots \\
y_n
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
ax_1 + by_1  \\
ax_2 + by_2\\
\vdots \\
ax_n + by_n
\end{matrix}\;\right)
\end{align*}
Skalarene $a$ og $b$ kalles vekter. 
Hvis vi har $m$ vektorer $\mathbf{x}_k$, definerer vi \emph{det lineære spennet}, eller
\begin{equation*}
\text{Sp}\{\mathbf{x}_1,\mathbf{x}_2,...,\mathbf{x}_m\}
\end{equation*}
som alle lineærkombinasjoner av vektorene, altså alle vektorer på formen
\begin{equation*}
a_1\mathbf{x}_1+a_2\mathbf{x}_2+...+a_m\mathbf{x}_m.
\end{equation*}

Bruker vi dette, 
ser vi at vi kan tenke på venstresiden i systemet 
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\]
som lineærkombinasjonen av kolonnene i matrisen, 
med de ukjente som vekter:
\[
\left(\;\begin{matrix}
2 & 3 & 4\\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
x_1 \\
x_2 \\
x_3
\end{matrix}\;\right)
=
x_1	
\left(\;\begin{matrix}
2     \\
3   \\
4   
\end{matrix}\;\right)
+
x_2
\left(\;\begin{matrix}
3   \\
4   \\
5    
\end{matrix}\;\right)
+
x_3
\left(\;\begin{matrix}
4   \\
5 \\
6 
\end{matrix}\;\right)
\]

Den store forskjellen mellom systemene
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 7 &3
\end{amatrix}
\]
og
\[
\begin{amatrix}{3}
2 & 3 & 4 &4 \\
3 & 4 & 5 &5 \\
4 & 5 & 6 &6
\end{amatrix}
\]
ligger nå i det geometriske forholdet mellom kolonnene i venstresidene. 
I det andre systemet ligger kolonnevektorene i samme plan, 
men i det første peker de litt mer i \say{hver sin retning}.
Følgende definisjon formaliserer hva vi mener med \say{hver sin retning}.

\begin{tcolorbox}[title=Viktig I]
Vi sier at vektorer $\V v_1$, $\V v_2$ ... $\V v_n$ er lineært uavhengige dersom
\[
c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n=\V 0
\]
impliserer 
at
\[
c_1=c_2=\cdots=c_n= 0.
\]
\end{tcolorbox}

Dersom man ønsker å sjekke om kolonnene i en matrise er lineært uavhengige, 
må vi altså løse systemet
\[
A\mathbf x = \mathbf 0
\]
og sjekke om $\mathbf x=\mathbf 0$ er den eneste løsningen. 

\begin{ex}
Vi sjekker om kolonnene i 
\[
\left(\;\begin{matrix}
2 & 3 & 4\\
3 & 4 & 5 \\
4 & 5 & 7
\end{matrix}\;\right)
\]
er lineært uavhengige.
Siden 
\[
\begin{amatrix}{3}
2 & 3 & 4 &0 \\
3 & 4 & 5 &0 \\
4 & 5 & 7 &0
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &0 \\
0 & 1 & 2 &0 \\
0 & 0 & 1 &0
\end{amatrix}
\]
ser vi umiddelbart at $x_1=x_2=x_3=0$ er eneste løsning,
og kolonnene er følgelig lineært uavhengige. 
\end{ex}


\begin{ex}
Hva med
\[
\left(\;\begin{matrix}
2 & 3 & 4\\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\quad ?
\]

Siden 
\[
\begin{amatrix}{3}
2 & 3 & 4 &0 \\
3 & 4 & 5 &0 \\
4 & 5 & 6 &0
\end{amatrix}
\sim
\begin{amatrix}{3}
2 & 3 & 4 &0 \\
0 & 1 & 2 &0 \\
\end{amatrix}
\]
har vi uendelig mange løsninger på formen 
\[
\left(\;\begin{matrix}
x_1 \\
x_2 \\
x_3
\end{matrix}\;\right)
=
s
\left(\;\begin{matrix}
1 \\
-2 \\
1
\end{matrix}\;\right)
\]
Det finnes altså et valg av $\mathbf x \neq \mathbf 0$ slik at 
\[
\left(\;\begin{matrix}
2 & 3 & 4\\
3 & 4 & 5 \\
4 & 5 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
x_1 \\
x_2 \\
x_3
\end{matrix}\;\right)
=
x_1	
\left(\;\begin{matrix}
2     \\
3   \\
4   
\end{matrix}\;\right)
+
x_2
\left(\;\begin{matrix}
3   \\
4   \\
5    
\end{matrix}\;\right)
+
x_3
\left(\;\begin{matrix}
4   \\
5 \\
6 
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
0   \\
0 \\
0 
\end{matrix}\;\right)	
\]
Med andre ord er kolonnene lineært avhengige.
\end{ex}

Følgende faktaopplysning er ofte nyttig. 

\begin{tcolorbox}[title=Viktig II]
Dersom $\V v_1$, $\V v_2$ ... $\V v_n$ er lineært uavhengige og
\[
c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n=\V w
\]
er koeffisientvektoren $\mathbf c$ entydig bestemt. 
\end{tcolorbox}

Dette er relativt lett å se. 
Anta at både 
\[
c_1\V v_1+c_2\V v_2 +\cdots +c_n\V v_n=\V w
\]
og 
\[
d_1\V v_1+d_2\V v_2 +\cdots +d_n\V v_n=\V w
\]
Dersom vi trekker disse to likningene fra hverandre, 
får vi 
\[
(c_1-d_1)\V v_1+(c_2-d_2)\V v_2 +\cdots +(c_n-d_n)\V v_n=\V w-\V w = \V 0
\]
og siden  $\V v_1$, $\V v_2$ ... $\V v_n$ er lineært uavhengige må 
\[
c_1-d_1=c_2-d_2=\cdots =c_n-d_n=0
\]

\begin{ex}
Siden
\[
\begin{amatrix}{3}
8&-7&0&0\\
-8&-7&3&0\\
-4&5&-8&0\\
-6&6&-4&0
\end{amatrix}
\sim 
\begin{amatrix}{3}
8&-7&0&0\\
0&-14&3&0\\
0&0&1&0\\
\end{amatrix}
\]
bør det kanskje ikke komme som noe sjokk at 
systemet 
\[
\begin{amatrix}{3}
8&-7&0&-3\\
-8&-7&3&-7\\
-4&5&-8&-3\\
-6&6&-4&0
\end{amatrix}
\]
har entydig løsning. 
(Prøv selv.)
Systemet 
\[
\begin{amatrix}{3}
8&-7&0&-3\\
-8&-7&3&-7\\
-4&5&-8&-3\\
-6&6&-4&1
\end{amatrix}
\]
har ingen løsning,
for høyresiden kan ikke skrive som en lineærkombinasjon av kolonnene i matrisen på venstresiden. 
Dersom likningssystemet ikke har noen løsninger,
hjelper det ikke at kolonnene er lineært uavhengige!
\end{ex}

Merk til slutt at en lineært uavhengig vektormengde ikke kan inneholde nullvektoren,
samt at lineær uavhengighet er ekvivalent med parallellitet dersom vi bare sjekker to vektorer.
Konseptet lineær uavhengighet føles nok for de fleste litt rart i begynnelsen, 
og det er standardprosedyre å innføre dette under matriseregningen. 
Senere skal vi anvende det på helt andre ting, 
for eksempel differensiallikninger.

\section*{\huge Determinanter}

Dersom det lineære likningssystemet er kvadratisk, 
finnes det en rask måte å sjekke om kolonnene i systemmatrisen er lineært uavhengige.
Det kalles determinanten. 
For en $2 \times 2$-matrise 
\[
A=
\left(\;\begin{matrix}
a_{11} & a_{12} \\
a_{21} & a_{22}  
\end{matrix}\;\right)
\]
er den gitt ved
\[
\det A= a_{11}a_{22}-a_{21}a_{12}
\]
Vi kjenner igjen dette som arealet av parallellogrammet utspent av kolonnevektorene i $A$.
Dersom $\det A=0$ er kolonnene parallelle, 
og dersom  $\det A\neq 0$ er de ikke.
Siden parallelle vektorer er lineært uavhengighet (og omvendt så lenge vi bare har to vektorer i kikkerten),
har vi egentlig rundet spillet for $2 \times 2$-matriser.

For en $3 \times 3$-matrise 
\[
A=
\left(\;\begin{matrix}
a_{11} & a_{12} & a_{13}\\
a_{21} & a_{22} & a_{23}\\ 
a_{31} & a_{32} & a_{33}\\ 
\end{matrix}\;\right)
\]
er formelen 
\begin{align*}
\det A= & a_{11}\left(a_{11}a_{22}-a_{21}a_{12}\right) \\
-& a_{12}\left(a_{21}a_{33}-a_{23}a_{31}\right) \\
+& a_{13}\left(a_{21}a_{32}-a_{22}a_{31}\right)
\end{align*}
Fulgte du godt med på skolen, 
kjenner du igjen dette som volumet av parallellepipedet utspent av kolonnene i $A$. 
Dersom du tar tre kulepenner og fikler litt med dem,
vil du nok klare å se geometrisk at de tre kolonnene er lineært uavhengige hvis og bare hvis $\det A \neq 0$. 

Dette kan generaliseres til $n \times n$-matriser, 
men det er ikke helt trivielt. 
De fleste ingeniører går nok gjennom livet uten å kjenne til denne utledningen, 
men kanskje jeg får plass til å skrive det ned siden. 

\section*{\huge Invers}

Dersom det lineære likningssystemet er kvadratisk, 
og kolonnene i systemmatrisen er lineært uavhengige,
kan man beregne noe som kalles invers.
La oss ta en ny titt på systemet
\[
\left(\;\begin{matrix}
2 & 3 & 4 \\
3 & 4 & 5 \\
4 & 5 & 7
\end{matrix}\;\right)
\left(\;\begin{matrix}
x_1\\
x_2\\
x_3
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
4\\
5\\
7
\end{matrix}\;\right)
\]
Matrisen 
\[
\left(\;\begin{matrix}
-3 & 1 & 1 \\
1 & 2 & -2 \\
1 & -2 & 1
\end{matrix}\;\right)
\]
har noen artige egenskaper.
For det første:
\[
\left(\;\begin{matrix}
2 & 3 & 4 \\
3 & 4 & 5 \\
4 & 5 & 7
\end{matrix}\;\right)
\left(\;\begin{matrix}
-3 & 1 & 1 \\
1 & 2 & -2 \\
1 & -2 & 1
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1
\end{matrix}\;\right)
\]
Matrisen på høyre side kalles identitetsmatrisen,
og du kan sjekke selv at denne oppfører seg som tallet en - 
når du ganger den med noe, 
skjer det ingening. 
For det andre:
\[
\left(\;\begin{matrix}
-3 & 1 & 1 \\
1 & 2 & -2 \\
1 & -2 & 1
\end{matrix}\;\right)
\left(\;\begin{matrix}
4\\
5\\
7
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
-4\\
8\\
-3
\end{matrix}\;\right)
\]
Hvis du har god tallhukommelse, 
kjenner du kanskje igjen høyresiden som løsningen til systemet. 

Det som har skjedd her,
er at vi startet med et system
\[
A\mathbf x=\mathbf b,
\]
ganget med den inverse $A^{-1}$ på begge sider, 
og fikk
\[
\mathbf x=A^{-1}A\mathbf x=A^{-1}\mathbf b.
\]
Inversmatrisen er altså en slags generalisering av delingsoperasjonen, 
og notasjonen $A^{-1}$ er ikke tilfeldig. 
Dette er analogt til å løse likningen 
\[
ax=b
\] 
ved å dele ut $a$ på begge sider:
\[
x=\frac{1}{a}b=a^{-1}b
\]

Hvordan beregner vi $A^{-1}$?
Enkelt. 
Vi må ha 
\[
AA^{-1}=I
\]
der $I$ er identitetsmatrisen. 
Den som er dreven i matrisemultiplikasjon ser at dette gir opphav til $n$ likningssystemer 
på formen 
\[
A\mathbf x=\mathbf e_i
\]
der $\mathbf e_i$ er enhetsvektorene i $\mathbb R^n$.
Nå kan vi utvide notasjonen for likningssystemer enda litt, 
og skrive $AA^{-1}=I$ som 
\[
\left[
\begin{array}{ccc|ccc}
2 & 3 & 4 & 1 & 0 & 0 \\
3 & 4 & 5 & 0 & 1 & 0 \\
4 & 5 & 7 & 0 & 0 & 1
\end{array}
\right]
\]
og gausseliminere seg frem til 
\[
\left[
\begin{array}{ccc|ccc}
1 & 0 & 0 &-3 & 1 & 1 \\
 0 & 1 & 0 & 1 & 2 & -2 \\
 0 & 0 & 1 & 1 & -2 & 1
\end{array}
\right]
\]

Det er også slik at dersom $A^{-1}$ eksisterer,
er $AA^{-1}=I=A^{-1}A$. 
Dette er ikke helt innlysende, 
men trikset er å skjønne dersom man er enig i at 
nøyaktig de samme gauss-stegene som i eliminasjonen over vil produsere eliminasjonen 
\[
\left[
\begin{array}{ccc|ccc}
 1 & 0 & 0 & 2 & 3 & 4 \\
 0 & 1 & 0 &3 & 4 & 5  \\
 0 & 0 & 1 & 4 & 5 & 7 
\end{array}
\right]
\sim
\left[
\begin{array}{ccc|ccc}
-3 & 1 & 1 & 1 & 0 & 0 \\
 1 & 2 & -2&  0 & 1 & 0  \\
1 & -2 & 1& 0 & 0 & 1 
\end{array}
\right]
\]

Det finnes også formler for inversmatrisen basert på determinant, 
men ting som er basert på determinant er stort sett ikke så relevante i 2021. 
Man kan stort sett beregne ting  på mer effektive måter.

\begin{ex}
Inversen til
\[
\left(\;\begin{matrix}
1-i & 3  \\ i &1+2i 
\end{matrix}\;\right)
\]
er
\[
\frac{1}{3-2i}
\left(\;\begin{matrix}
1+2i & -3  \\ -i &1-i 
\end{matrix}\;\right)
\]
siden
\[
\frac{1}{3-2i}
\setlength\arraycolsep{4pt}
\left(\;\begin{matrix}
1-i & 3  \\ i &1+2i 
\end{matrix}\;\right)
\left(\;\begin{matrix}
1+2i & -3  \\ -i &1-i 
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
1 & 0  \\ 0 &1 
\end{matrix}\;\right) \qedhere
\]
\end{ex}

\section*{\huge Egenvektorer}

Her er en annen matrise:
\[
A=
\left(\;\begin{matrix}
1 & 2 & 2 \\
2 & 6 & 2 \\
2 & 2 & 6
\end{matrix}\;\right)
\]
La oss gange noen vektorer inn fra  høyre i denne.
Vi prøver først 
\[
A=
\left(\;\begin{matrix}
1 & 2 & 2 \\
2 & 6 & 2 \\
2 & 2 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
1\\
1\\
1
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
5\\
10\\
10
\end{matrix}\;\right)
\]
Ikke stort å melde om. 
Men hva med denne?
\[
A=
\left(\;\begin{matrix}
1 & 2 & 2 \\
2 & 6 & 2 \\
2 & 2 & 6
\end{matrix}\;\right)
\left(\;\begin{matrix}
1\\
2\\
2
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
9\\
18\\
18
\end{matrix}\;\right)
=
9
\left(\;\begin{matrix}
1\\
2\\
2
\end{matrix}\;\right)
\]
Noen vektorer har den egenskap at når man ganger dem inn i matrisen,
kommer det ut en skalarmultippel av den samme vektoren. 
Dette ser tilforlatelig ut, 
men er utrolig viktig, 
og kalles egenvektorer. 
Skaleringsfaktoren kalles egenverdi. 
Merk at $A$ må være kvadratisk, 
for ellers gir det ingen mening å si at matrisen skalerer vektorer.

Vi leter altså etter vektorer slik at
\[
A\mathbf x=\lambda \mathbf x.
\]
I eksemplet over er 
\[
\mathbf x=
\left(\;\begin{matrix}
1\\
2\\
2
\end{matrix}\;\right)
\]
og $\lambda=9$. 
Vi sier at $\mathbf x$ er en egenvektor med tilhørende egenverdi $\lambda$.

La oss nå lage en systematisk fremgangsmåte for å finne egenvektorer og egenverdier.
Likningen
\[
A\mathbf x=\lambda \mathbf x.
\]
kan vi skrive om til 
\[
A\mathbf x-\lambda \mathbf x=\mathbf 0
\]
og har vi litt trening i enhetsmatrisen,
ser vi at vi kan faktorisere dette som 
\[
\left(A-\lambda I\right) \mathbf x=\mathbf 0
\]
Nå vet du at dersom kolonnene i $A-\lambda I$ er lineært uavhengige,
har dette problemet kun en løsning, 
nemlig nullvektoren. 
Nullvektoren vil vi ikke skal klassifisere som egenvektor, 
for hvis den gjorde det, 
ville alle tall klassifisert som egenverdier,
siden 
\[
A\mathbf 0=\lambda \mathbf 0
\]
uansett hva $\lambda$ er. 
Vi må altså kreve at kolonnene i $A-\lambda I$ er lineært uavhengige, 
og det er de hvis og bare hvis $\det\left(A-\lambda I\right)=0$. 

La oss prøve å finne egenverdiene til matrisen $A$ over.
Vi beregner
\begin{align*}
\det\left(A-\lambda I\right) &= 
\det
\left(\;\begin{matrix}
1-\lambda & 2 & 2 \\
2 & 6-\lambda & 2 \\
2 & 2 & 6-\lambda
\end{matrix}\;\right)
\\
&=(1-\lambda)\left((6-\lambda)^2-4\right) \\
&-2\left(2(6-\lambda)-4\right) \\
&+2\left(4-2(6-\lambda)-4\right) \\
&=\lambda^3-13\lambda^2+36\lambda\\
&=\lambda(\lambda-4)(\lambda-9)
\end{align*}
slik at $\lambda_1=0$, $\lambda_2=4$ og $\lambda_3=9$ er de tre egenverdiene.
Polynomet $p(\lambda)=\lambda(\lambda-4)(\lambda-9)$ kalles matrisens karakteristiske polynom.
Husk nå fra forrige kapittel at algebraens fundamentalteorem sier at et polynom
\[
\lambda^n+a_{n-1}\lambda^{n-1}+...+a_1\lambda+a_0
\]
kan alltid faktoriseres
\[
\lambda^n+a_{n-1}\lambda^{n-1}+...+a_1\lambda+a_0=\prod_{i=1}^n (\lambda-\lambda_i),
\]
 der 
 der $\lambda_i \in \mathbb C$ er løsninger av likningen
\[
\lambda^n+a_{n-1}\lambda^{n-1}+...+a_1\lambda+a_0=0.
\]
Det karakteristiske polynomet er alltid monisk (ser du hvorfor?),
og følgelig er det karakteristiske polynomet alltid av orden $n$.
På folkemunne sier vi gjerne at en matrise alltid har \say{n} egenverdier,
dersom du teller riktig, 
altså antall lineære faktorer i det karakteristiske polynomet.
Men det er ikke nødvendigvis enkelt å finne egenverdiene bare fordi de finnes. 
Niels Henrik Abel beviste i 1824 at det finnes ingen generell formel for å løse polynomlikninger med høyere orden enn 5:\\
\url{https://en.wikipedia.org/wiki/Abel–Ruffini_theorem}

Vi vet altså at egenverdiene til $A$ er $\lambda_1=0$, $\lambda_2=4$ og $\lambda_3=9$.
Egenvektorene er løsninger av likninger
\[
\left(A-\lambda_k I\right) \mathbf x=\mathbf 0
\]
for hver av de tre egenverdiene.
For eksempel er egenvektoren til $\lambda_2=4$ gitt ved alle skalarmultipler av 
\[
\left(\;\begin{matrix}
0\\
-1\\
1
\end{matrix}\;\right)
\]
siden 
\[
\begin{amatrix}{3}
1-4 & 2 & 2 & 0 \\
2 & 6-4 & 2 & 0\\
2 & 2 & 6-4& 0
\end{amatrix}
\sim
\begin{amatrix}{3}
-3 & 2 & 2 & 0 \\
5 & 0 & 0 & 0\\
0 & 0 & 0& 0
\end{amatrix}
\]
De andre finnes på samme måte. 
Alle skalarmultipler (unntatt nullvektoren) av en egenvektor er også egenvektorer.
Derfor er det vanlig å definere noe som kalles egenrommet til en egenverdi - dette er alle egenverdiens egenvektorer samt nullvektoren.


\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
0 & -1 \\ 1 &0
\end{matrix}\;\right)
\]
har visst egenverdier allikevel. Det karakteristiske polynomet er
\[
\lambda^2+1,
\]
så egenverdiene er $\pm i$. 
\end{ex}

\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
3 & 0 & 0 \\ 0 & 1 & -1 \\ 0&  1 &1  
\end{matrix}\;\right)
\]
har karakteristisk polynom
\[
(3-\lambda)((1-\lambda)^2+1)=(3-\lambda)(2-2\lambda+\lambda^2).
\]
Den ene egenverdien er åpenbart $\lambda=3$, mens andregradspolynomet $2-2\lambda+\lambda^2$ har røtter
\[
\lambda=\frac{2\pm\sqrt{4-8}}{2}=1\pm i.
\] 
Her er det altså en reell egenverdi $3$, og to komplekse egenverdier $1+i$ og $1-i$.
\end{ex}

Fra en oppgave i forrige kapittel ser vi at
\begin{tcolorbox}
Egenverdiene til en reell matrise kommer i komplekskonjugerte par.
\end{tcolorbox}




\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
1 & 1 & 0\\  0 &1 & 0 \\ 0 & 0 & 2
\end{matrix}\;\right)
\]
har karakteristisk likning
\[
(2-\lambda)(1-\lambda)^2=0,
\]
med en enkel egenverdi $\lambda=2$, og en dobbel egenverdi $\lambda=1$. 
\end{ex}



Det karakteristiske polynomet til en $n \times n$-matrise  kan alltid spaltes i $n$ lineære faktorer,
men det finnes ikke alltid $n$ lineært uavhengige egenvektorer.

\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
0 & -1 \\ 1 &0
\end{matrix}\;\right)
\]
har egenverdier
\[
\lambda=\pm i.
\] 
Egenrommet til $-i$ er nullrommet til 
\[
\left(\;\begin{matrix}
i & -1 \\ 1 &i
\end{matrix}\;\right).
\]
Vi vet at denne matrisen ikke er inverterbar,
og da må radene være skalarmultipler av hverandre (i dette tilfellet er den nederste $i$ ganger den øverste), 
så vi kan egentlig bare stryke den nederste, og se at
\[
ix_1-x_2=0,
\]
slik at en egenvektor til $-i$ blir
\[
\left(\;\begin{matrix}
1  \\ i
\end{matrix}\;\right)
\]
Likeledes blir en egenvektor til $i$ 
\[
\left(\;\begin{matrix}
i  \\ 1
\end{matrix}\;\right).
\]
Vi dobbeltsjekker
\[
\left(\;\begin{matrix}
0 & -1 \\ 1 &0
\end{matrix}\;\right)
\left(\;\begin{matrix}
i  \\ 1
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
-1  \\ i
\end{matrix}\;\right)
=
i
\left(\;\begin{matrix}
i  \\ 1
\end{matrix}\;\right).\qedhere
\]
\end{ex}

\begin{ex}
Vi beregner egenrommet til matrisen
\[
\left(\;\begin{matrix}
3 & 0 & 0 \\ 0 & 1 & -1 \\ 0&  1 &1  
\end{matrix}\;\right)
\]
sin egenverdi $\lambda= 1-i$. Dette er nullrommet til
\[
\left(\;\begin{matrix}
2+i & 0 & 0 \\ 0 & i & -1 \\ 0&  1 &i  
\end{matrix}\;\right).
\]
Den øverste raden forteller at $x_1=0$. De to nedereste ligner mistenkelig på forrige eksempel, så en egenvektor blir 
\[
\left(\;\begin{matrix}
0 \\ 1  \\ i 
\end{matrix}\;\right).
\]
Vi dobbeltsjekker
\[
\left(\;\begin{matrix}
3 & 0 & 0 \\ 0 & 1 & -1 \\ 0&  1 &1  
\end{matrix}\;\right)
\left(\;\begin{matrix}
0 \\ 1  \\ i 
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
0 \\ 1-i  \\ 1+i 
\end{matrix}\;\right)
=
(1-i)
\left(\;\begin{matrix}
0 \\ 1  \\ i 
\end{matrix}\;\right). \qedhere
\]

\end{ex}


\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
1 & 1 & 0\\  0 &1 & 0 \\ 0 & 0 & 2
\end{matrix}\;\right)
\]
har dobbel egenverdi $\lambda=1$. Det tilhørende egenrommet er nullrommet til 
\[
\left(\;\begin{matrix}
0 & 1 & 0\\  0 &0 & 0 \\ 0 & 0 & 1
\end{matrix}\;\right)
\]
%altså ikketrivielle løsninger av 
%
%\[
%\left(\;\begin{matrix}
%0 & 1 & 0\\  0 &0 & 0 \\ 0 & 0 & 1
%\end{matrix}\;\right)
%\left(\;\begin{matrix}
%x_1  \\ x_2 \\ x_3
%\end{matrix}\;\right)
%=
%\left(\;\begin{matrix}
%0  \\ 0 \\0
%\end{matrix}\;\right)
%\]
Dette gir at
$
x_2=x_3=0,
$
så en egenvektor til $\lambda=1$ er
%\[
%\Sp \left\{ \vvv{1}{0}{0} \right\}.
%\]
\[
 \vvv{1}{0}{0}.
\]
Her er egenrommet endimensjonalt, mens egenverdien hadde multiplisitet 2.
\end{ex}



Egenrommet har dimensjon mindre enn eller lik multiplisiteten til egenverdien. 
Dersom et egenrom har lavere dimensjon enn multiplisiteten til egenverdien, 
sier vi at egenverdien er \defterm{defekt}. 


\section*{\huge Ortogonale matriser}

Skalarproduktet mellom vektorer i $\mathbb R^n$ er: 
\[
\mathbf x \cdot \mathbf y=\sum_{k=1}^n x_ky_k = x_1y_1+x_2y_2+\cdots+x_ny_n
\]
og vi sier at $\mathbf x$ og $\mathbf y$ er ortogonale om $\mathbf x\cdot \mathbf y=0$. 
Det går an å definere lengde på mange fornuftige måter, 
for eksempel 
\[
\|\mathbf x\|_1=\sum_{k=1}^n |x_k|
\]
eller
\[
\|\mathbf x\|_\infty=\max_k |x_k|
\]
men den vanligste er nok den pytagoreiske lengden
\[
\|\mathbf x\|_2=\sqrt{\mathbf x\cdot \mathbf x}
\]
siden dette er den fysiske lengden til 
$\mathbf x$ for $n=2$ og $n=3$.
Vi sier at denne lengden er indusert av skalarproduktet,
og dersom det ikke er noen subindeks, 
er det underforstått at det er denne vi mener.


Hvordan kan vi utvide alt dette til vektorer i $\mathbb C^n$?
I lys av avsnittet over, 
er det lurt å definere
\[
\mathbf x \cdot \mathbf y=\sum_{k=1}^n \overline{x_k}y_k = \overline{x_1}y_1+\overline{x_2}y_2+\cdots+\overline{x_n}y_n
\]
siden indreproduktet av $\mathbf x$ med seg selv da blir en 
sum av de kvadrerte absoluttverdiene til komponentene til $\mathbf x$
og dette virker som et fornuftig mål på lengden til $\mathbb C^n$.
Siden dette er noe vi kan komme til å gjøre ofte, 
er det funnet opp en spesiell notasjon som tar i bruk matrisemultiplikasjon. 

\begin{tcolorbox}[title=Adjungert, colback=blue!10]
La
\[
A =
\left(\;\begin{matrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{matrix}\;\right)
\]
være en $m \times n$-matrise.  Den \defterm{adjungerte} av~$A$ er
$n \times m$-matrisen
\[
A^* =
\left(\;\begin{matrix}
\overline{a_{11}} & \overline{a_{21}} & \cdots & \overline{a_{m1}} \\
a\overline{_{12}} & \overline{a_{22}} & \cdots & \overline{a_{m2}} \\
\vdots & \vdots & \ddots & \vdots \\
a\overline{_{1n}} & \overline{a_{2n}} & \cdots & \overline{a_{mn}}
\end{matrix}\;\right)
\]
der radene og kolonnene i~$A$ er byttet om.
Dersom $A$ er reell, 
sier vi istedet transponert og skriver $A^T$.  
\end{tcolorbox}

Siden $A^*=\overline{A}$ dersom $A$ er en $1\times 1$-matrise, 
ser vi at vi nå har to notasjoner for komplekskonjugert, 
$\overline z$ og $z^*$. 
Noen fagfelt foretrekker den ene, 
og noen foretrekker den andre, 
så det er greit å vite om begge. 
Vi kan nå skrive skalarproduktet som: 
\[
\mathbf x \cdot \mathbf y=\mathbf x^*\mathbf y
\]
Vi sier at en vektormengde er innbyrdes ortogonale dersom 
\[
\mathbf x^* \mathbf y=0
\]
for alle $\mathbf x\neq \mathbf y$ i mengden. 
Dersom alle vektorene i tillegg har lengde 1, 
blir det enda penere.

\begin{tcolorbox}[title=Ortogonale matriser, colback=blue!10]
Vi sier at en matrise $A$ er ortonormal dersom 
\[
A^*A=I
\]
\end{tcolorbox}

Det er ikke så vanskelig å se at en ortogonal matrise har ortogonale kolonner. 
Siden ortogonale vektorer åpenbart må være lineært uavhengige,
ser vi også at $A^*=A^{-1}$ dersom $A$ er kvadratisk. 




\section*{\huge Diagonalisering}
La $A$ være en  $n \times n$-matrise med $m$ lineært uavhengige egenvektorer
$\V{v}_1$, $\V{v}_2\dots \V{v}_m$ 
og tilhørende egenverdier $\lambda_1$, $\lambda_2$,$\cdots$, $\lambda_m$, . 
For hver egenvektor gjelder
\[
A\V{v}_k=\lambda_k \V{v}_k.
\]
Disse $m$ ligningene kan like gjerne organiseres i en matriseligning
\[
AV=VD, 
\]
der 
\[
D=
\left(\;\begin{matrix}
\lambda_1      & 0      & 0      & \cdots & 0 \\
0      & \lambda_2      & 0      & \cdots & 0 \\
0      & 0      & \lambda_3      & \cdots & 0 \\
\vdots & \vdots & \vdots & \ddots & \vdots \\
0      & 0      & 0      & \cdots & \lambda_m
\end{matrix}\;\right)
\]
og 
\[
V=
\left(\;\begin{matrix}
\V{v}_1 & \V{v}_2 & \cdots & \V{v}_m
\end{matrix}\;\right).
\]

Siden $\V{v}_1$, $\V{v}_2\dots \V{v}_m$ er lineært uavhengige, er matrisen $V$  invertibel dersom $m=n$.
Vi ganger med $V^{-1}$ fra venstre og får
\[
V^{-1}AV=D.
\]
Denne operasjonen kalles å \emph{diagonalisere} $A$.
Man kan også gå motsatt vei. 
Dersom 
\[
V^{-1}AV=D
\]
for en inverterbar $n \times n$-matrise $V$, kan vi gange fra venstre med $V$, og få
\[
AV=VD
\]
Vi ser av denne likningen at kolonnene til $V$ utgjør $n$ lineært uavhengige egenvektorer for $A$.
Vi sier at en $n\times n$-matrise med $n$ lineært uavhengige egenvektorer er diagonaliserbar. 

\begin{tcolorbox}[title=Diagonaliserbarhet, colback=red!10]
Vi kan skrive 
\[
V^{-1}AV=D
\]
hvis og bare hvis $A$ har $n$ lineært uavhengige egenvektorer.
\end{tcolorbox}

\begin{ex}	
Vi diagonaliserer matrisen 
\[
A=
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right).
\]
Egenvektorene er 
\[
\left(\;\begin{matrix}
1 \\ 1
\end{matrix}\;\right)
\quad \text{og} \quad
\left(\;\begin{matrix}
1 \\ -1
\end{matrix}\;\right),
\]
med respektive egenverdier 3 og 1. Vi definerer
\[
V=
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right),
\]
og beregner 
\[
V^{-1}=
\frac{1}{2}
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right).
\]
Vi dobbeltsjekker ved å beregne produktet
\begin{align*}
V^{-1}AV&=
\frac{1}{2}
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right)
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right)
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right)
\\& =
\left(\;\begin{matrix}
3     & 0 \\
0      & 1
\end{matrix}\;\right)
=
D \qedhere
\end{align*}
\end{ex}


\begin{ex}
Matrisen 
\[
\left(\;\begin{matrix}
1 & 1 & 0\\  0 &1 & 0 \\ 0 & 0 & 2
\end{matrix}\;\right)
\]
har bare to lineært uavhengige egenvektorer, og er følgelig ikke diagonaliserbar.
\end{ex}


\begin{ex}
Vi kan faktorisere matrisen 
\[
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right)
\]
som
\[
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right)
=
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right)
\left(\;\begin{matrix}
3     & 0 \\
0      & 1
\end{matrix}\;\right)
\frac{1}{2}
\left(\;\begin{matrix}
1 & 1 \\ 1 &-1
\end{matrix}\;\right).\qedhere
\]
\end{ex}

I eksemplet over spiller ikke plasseringen av $V$ og $V^{-1}$ noen rolle. Mer om dette under.




La $\V v$ være en kolonnevektor i $\mathbb C^n$ og $A$ en $n\times n$-matrise. En kvadratisk form er et uttrykk på formen 
\[
\V v^* A \V v
\]
Et slikt uttrykk er spesielt interessant dersom $\V v$ er en egenvektor med lengde 1 og egenverdi $\lambda$:
\[
\V v^* A \V v=\V v^* \lambda \V v=\lambda \V v^* \V v=\lambda.
\]

\begin{ex}
Vi lar 
\[
A=
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right)
\]
og 
\[
\V v=
\frac{1}{\sqrt{2}}
\left(\;\begin{matrix}
1    \\
1    
\end{matrix}\;\right)
\]
slik at 
\[
\V v^* A \V v=
\left(\;\begin{matrix}
\frac{1}{\sqrt{2}}   & \frac{1}{\sqrt{2}}    
\end{matrix}\;\right)
\left(\;\begin{matrix}
2     & 1 \\
1      & 2
\end{matrix}\;\right)
\left(\;\begin{matrix}
\frac{1}{\sqrt{2}}    \\
\frac{1}{\sqrt{2}}    
\end{matrix}\;\right)
=3. \qedhere
\]
\end{ex}


\begin{tcolorbox}[title=Symmetrisk matrise, colback=blue!10]
En kompleks matrise sies å være 
\defterm{symmetrisk} dersom $A=A^*$. 
\end{tcolorbox}


Dersom $A$ er reell er $A^*=A^T$, slik at kravet for en symmetrisk matrise er at $A=A^T$. 
I litteraturen er det vanlig å reservere begrepet \textit{symmetrisk} for 
reelle matriser der $A=A^T$, mens komplekse matriser kalles $\textit{hermittiske}$ hvis $A=A^*$. 
Jeg har aldri sett noen transponere en kompleks matrise uten å komplekskonjugere den, 
så man kunne i bunn og grunn bare sagt symmetrisk. 

\begin{ex}
Matrisen
\[
\left(\;\begin{matrix}
1 & 1+i & -i\\  1-i &0 & 2-i \\ i & 2+i  & 2
\end{matrix}\;\right)
\]
er symmetrisk.
Merk at en symmetrisk matrise må ha reelle diagonalelementer.
\end{ex}

Dersom $A$ har $n$ ortonormale egenvektorer,
sier vi at $A$ er ortogonalt diagonaliserbar.
Dersom vi  setter egenvektorene inn som kolonner i en $n \times n$-matrise $V$,
ser vi at 
\[
V^* A V =V^* VD =D
\]
siden $V^* V=I$. Motsatt ser vi at dersom
\[
V^* A V =D,
\]
for en ortonormal matrise $V$, 
utgjør $V$ sine kolonner  $n$ ortonormale egenvektorer for $D$.


\begin{tcolorbox}[title=Ortogonal diagonaliserbarhet, colback=red!10]
Vi kan skrive 
\[
V^*AV=D
\]
hvis og bare hvis $A$ har $n$ ortogonale egenvektorer. 
\end{tcolorbox}


Følgende teorem er ikke så vanskelig å bevise,
bare skriv ut matrisemultiplikasjonen og se nøye på elementene.

\begin{tcolorbox}[title=Om den kvadratiske formen, colback=red!10]
Dersom  $A=A^*$ er
$
\V x^* A \V x
$
reell.
\end{tcolorbox}

La $\V v$ være en normalisert egenvektor med egenverdi $\lambda$. Vi vet at 
\[
\V v^* A \V v=\lambda,
\]
og venstresiden er reell, så da må også $\lambda$ være det.

\begin{tcolorbox}[title=Om symmetriske matriser, colback=red!10]
En  symmetrisk matrise har reelle egenverdier.
\end{tcolorbox}

La $\V v_1$ og $\V v_2$ være to egenvektorer med egenverdier $\lambda_1$ og $\lambda_2$. 
Vi beregner (husk at $\lambda_1$ og $\lambda_2$ er reelle)
\begin{align*}
\lambda_1 \V v_1^*\V v_2&=(\lambda_1 \V v_1)^*\V v_2=(A \V v_1)^*\V v_2\\&= \V v_1^*A^*\V v_2=\V v_1^*(A\V v_2)=\V v_1^*(\lambda_2\V v_2)=\lambda_2 \V v_1^*\V v_2
\end{align*}
Vi vet altså at
\[
0= \lambda_1 \V v_1^*\V v_2-\lambda_2 \V v_1^*\V v_2=(\lambda_1-\lambda_2) \V v_1^*\V v_2,
\]
og hvis vi bruker at $\lambda_1$ og $\lambda_2$ er forskjellige, må vi ha $\V v_1^*\V v_2=0$.

\begin{tcolorbox}[title=Om ortogonale egenvektorer, colback=red!10]
Egenvektorene til to distinkte egenverdier er ortogonale for symmetriske matriser.
\end{tcolorbox}

Til slutt kommer den vanlige historien om et par teoremer som er nyttige, 
men for vanskelige å bevise for oss.

\begin{tcolorbox}[title=Om normale matriser, colback=red!10]
En  symmetrisk matrise er ortogonalt diagonaliserbar.
\end{tcolorbox}


\begin{ex}
Matrisen 
\[
\left(\;\begin{matrix}
1 & 2 & 2\\  2 &6 & 2 \\ 2 & 2 & 6
\end{matrix}\;\right)
\]
har egenverdier 4, 9 og 0. Egenvektorerer er henholdsvis
\[
\left(\;\begin{matrix}
0 \\ -1 \\ 1
\end{matrix}\;\right),
\;
\left(\;\begin{matrix}
1 \\ 2 \\ 2
\end{matrix}\;\right)
\quad \text{og} \quad
\left(\;\begin{matrix}
-4 \\ 1 \\ 1
\end{matrix}\;\right).
\]
Merk at alle vektorer er innbyrdes ortogonale, og matrisen er følgelig ortogonalt diagonaliserbar, med
\[
V=
\left(\;\begin{matrix}
0 & \frac{1}{3} & -\frac{4}{3\sqrt{2}}\\  -\frac{1}{\sqrt{2}} &\frac{2}{3} &  \frac{1}{3\sqrt{2}} \\ \frac{1}{\sqrt{2}} & \frac{2}{3} &  \frac{1}{3\sqrt{2}}.
\end{matrix}\;\right)
\]
og 
\[
D=
\left(\;\begin{matrix}
4 & 0 & 0\\  0 &9 & 0 \\ 0 & 0 & 0
\end{matrix}\;\right).
\]
Dette eksemplet viser at en matrise kan være diagonaliserbar uten å være inverterbar.
\end{ex}



\begin{tcolorbox}[title=Normale matriser, colback=blue!10]
En matrise er normal dersom $A*A=AA^*$. 
\end{tcolorbox}

\begin{tcolorbox}[title=Om normale matriser, colback=red!10]
En matrise er ortogonalt diagonaliserbar hvis og bare hvis den er normal. 
\end{tcolorbox}

\begin{ex}
En projeksjonsmatrise $P$ er definert ved likningen 
\[
P=P^2
\]
Denne likningen sier at det ikke skjer noe nytt om man benytter projeksjonen for andre gang.
La oss si at $P$ har en egenverdi $\lambda$, med egenvektor $\V x$. I så fall må
\[
\lambda \V x=P\V x=P^2\V x=P(P\V x)=P(\lambda\V x)=\lambda P\V x=\lambda^2 \V x.
\]
Dersom $\V x\neq \V 0$, 
må
\[
\lambda=\lambda^2
\]
eller
\[
\lambda^2-\lambda=\lambda(\lambda-1)=0.
\]
Egenverdiene til en projeksjonsmatrise kan altså kun være  0 eller 1. 
 \end{ex}






\kapittelslutt
