AI PRE OVP • MODUL 3

Zložitosť modelu: Podučenie, preučenie a L2 regularizácia

Ako stupeň polynómu a penalizácia (λ) riadia schopnosť generalizácie.

🎯 Learning Outcomes / Ishodi učenja:
  • Rozpoznať podučenie (stupeň d = 1) na nelineárnych dátach.
  • Sledovať preučenie (vysoký stupeň), kde krivka kopíruje šum.
  • Pochopiť, ako L2 Ridge regularizácia (λ) tlmí extrémne oscilácie.
  • Sledovať strednú kvadratickú chybu (MSE) na trénovacej aj validačnej množine.

Priamka nedokáže zachytiť periodické ani parabolické signály snímačov (podučenie). Polynóm vysokého stupňa sa však prehne cez každý zašumený bod (preučenie). Regularizácia (λ) penalizuje extrémne váhy a obnovuje plynulú generalizáciu.

J(w) = MSE + λ ∑ w_j²

L2 penalizácia vyvažuje kvalitu preloženia a jednoduchosť modelu.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Podučenie: Nastavte stupeň d = 1. Porovnajte trénovaciu a validačnú chybu MSE.
  2. Preučenie: Nastavte stupeň d = 7 pri λ = 0. Všimnite si divoké kmity na okrajoch.
  3. Regularizácia: Zvýšte λ na 0,05. Sledujte, ako sa krivka vyhladí a validačná chyba klesne.