AI FOR VET • POGLAVLJE 3

Složenost modela: Nedovoljno prilagođenje, preprilagođenje i L2 regularizacija

Kako stepen polinoma i kazneni faktor (λ) kontrolišu generalizaciju.

🎯 Learning Outcomes / Ishodi učenja:
  • Uočavanje nedovoljnog prilagođenja (stepen d = 1) na nelinearnim podacima.
  • Uočavanje preprilagođenja (veliki stepen) gde kriva pamti šum.
  • Razumevanje L2 Ridge regularizacije (λ) za smirivanje oscilacija.
  • Praćenje kvadratne greške (MSE) na trening i validacionom skupu.

Prava linija ne može da opiše sinusni ili parabolični signal (nedovoljno prilagođenje). Međutim, polinom visokog stepena prolazi kroz svaku tačku šuma i divlja na krajevima (preprilagođenje). Regularizacija (λ) kažnjava ekstremne težine i vraća glatku krivu.

J(w) = MSE + λ ∑ w_j²

L2 regularizacija postiže ravnotežu između prilagođenja podacima i jednostavnosti modela.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Nedovoljno prilagođenje: Postavite stepen d = 1. Uporedite trening i validacioni MSE.
  2. Preprilagođenje: Postavite stepen d = 7 sa λ = 0. Uočite skokove krive.
  3. Regularizacija: Povećajte λ na 0.05. Pogledajte kako se kriva smiruje i validacioni MSE pada.