AI PRE OVP • MODUL 9

Rozdelenie dát, reprezentatívnosť a etika

Prečo 95 % celková úspešnosť na teste môže skrývať fatálne zlyhanie pri menšinovej skupine.

🎯 Learning Outcomes / Ishodi učenja:
  • Pochopiť vyhodnocovanie na trénovacej vs nezávislej testovacej množine.
  • Preskúmať nebezpečenstvo nedostatočne zastúpených podskupín (napr. Továreň B s 5 %).
  • Ukázať, ako vysoký priemer maskuje diskriminačné správanie.
  • Aplikovať požiadavky Zákona o AI (EU AI Act): reprezentatívnosť a meranie po skupinách.

Ak sa model na kontrolu kvality trénuje na 95 % kusoch z Továrne A a iba 5 % z Továrne B, celkový výsledok 95 % môže vyzerať skvele, hoci pre Továreň B model úplne zlyháva! Kvalita dát je dôležitejšia než ich objem.

Celková správnosť = w_A · Acc_A + w_B · Acc_B  |  Rozdiel = |Acc_A − Acc_B|

Samostatné hodnotenie každej podskupiny je kľúčom k dôveryhodnej AI.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Skryté zlyhanie: Nechajte Továreň B na 5 %. Celková presnosť je ~95 %, ale aká je pre Továreň B?
  2. Vyvážte zastúpenie: Zvýšte podiel Továrne B na 35 %. Sledujte nárast presnosti pre Továreň B.
  3. Pasca memorovania: Nastavte k = 1. Trénovacia presnosť je 100 %, ale na testovacích dátach model zlyháva.