AI FOR VET • POGLAVLJE 9

Odgovorni AI: Reprezentativnost podataka i skrivena pristrasnost

Zašto ukupna tačnost od 95% može kriti katastrofalan neuspeh na manjinskoj grupi.

🎯 Learning Outcomes / Ishodi učenja:
  • Razlika između trening i test skupa.
  • Opasnost od nedovoljno zastupljenih podgrupa (npr. Fabrika B sa samo 5%).
  • Kako prosek prikriva greške na manjini.
  • Zahtevi EU AI Act regulative: provera po podgrupama i fer modeli.

Ako model za kontrolu kvaliteta treniramo na 95% delova iz Fabrike A i samo 5% iz Fabrike B, on može prijaviti 95% tačnosti a da za Fabriku B pogađa nasumično! Reprezentativnost podataka je važnija od same količine.

Ukupna tačnost = w_A · Acc_A + w_B · Acc_B  |  Raspon greške = |Acc_A − Acc_B|

Evaluacija modela po svakoj podgrupi posebno je zakonska i inženjerska obaveza.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Skriveni neuspeh na manjini: Ostavite udeo Fabrike B na 5%. Ukupna tačnost je ~95%, ali kolika je tačnost za Fabriku B?
  2. Povećanje udela: Povećajte udeo Fabrike B na 35%. Pogledajte kako tačnost za Fabriku B naglo raste!
  3. Zamka pamćenja: Postavite k = 1. Trening tačnost je 100%, ali generalizacija na testu je nestabilna.