2024-10-01

2024-python-slides-08 - Google Slides

Kursinfo

Nästa vecka börjar objektorienterad programmering

Linjär regression

Målet: Hitta den bästa linjen mellan givna punkter.

Loss

Loss är hur långt alla punkterna är från linjen och beräknas med:

M S E = \frac{1}{| D |} \sum_{(x, y) \in D} (y - p r e d i c t i o n (x))^{2}

där $D$ är våra punkter, $(x, y)$ är en av dessa punkter och $p r e d i c t i o n (x)$ är vår gissning på vad $y$ ska vara för ett visst $x$ .

Algoritmen

Note

Eftersom regressionen utförs stegvis kommer den aldrig bli exakt rätt utan bara väldigt nära då den "hoppar fram och tillbaka" över den exakta lösningen.

Exakta lösningen

θ = (X^{T} X)^{- 1} X^{T} y

Sidospår

Anledningen GPU:er används för maskinlärning är att de kan effektivt och parallellt beräkna matrisoperationer.