AI PRE OVP • MODUL 1

Optimalizácia modelu: Gradientný zostup

Ako sa modely strojového učenia učia optimálne váhy a minimalizujú chybu.

🎯 Learning Outcomes / Ishodi učenja:
  • Pochopiť nákladovú funkciu J(w) ako mieru chyby modelu.
  • Pozorovať, ako gradient určuje smer a veľkosť úpravy váh.
  • Preskúmať rýchlosť učenia (α): pomalý postup vs konvergencia vs divergencia.
  • Objaviť rozdiel medzi lokálnym a globálnym minimom pri nekonvexnej funkcii.

Hlavným cieľom učenia s učiteľom je nájsť parametre (váhy $w$), pri ktorých je nákladová funkcia $J(w)$ minimálna. Predstavte si turistu v hustej hmle zostupujúceho do údolia: kontroluje sklon terénu pod nohami a robí krok v smere najstrmšieho klesania.

w ← w − α · (dJ / dw)

Kde $w$ je aktuálna váha, α je rýchlosť učenia a dJ/dw je sklon gradientu.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Normálna konvergencia: Pri profile Konvexná a α = 0,15 kliknite na Spustiť. Koľko epoch trvá dosiahnutie minima pri w = 2,0?
  2. Pomalé učenie: Nastavte α = 0,01. Sledujte, ako pomaly sa model posúva.
  3. Divergencia: Zvýšte α ≥ 0,85. Pozorujte, ako bod preskakuje dno a uletí do nekonečna.
  4. Pasca lokálneho minima: Zvoľte Nekonvexná a začnite z w = −2,2. Skončí model v lokálnom alebo globálnom minime?