IA PARA EFP • MÓDULO 9

Divisão de dados, representatividade e ética

Porque 95% de exatidão global no teste pode mascarar uma falha discriminatória num subgrupo minoritário.

🎯 Learning Outcomes / Ishodi učenja:
  • Compreender a avaliação em conjuntos de treino vs teste independente.
  • Examinar o risco de subgrupos sub-representados (ex.: Fábrica B com apenas 5%).
  • Demonstrar como médias elevadas ocultam desempenhos enviesados.
  • Cumprir os requisitos do Regulamento da IA da UE (EU AI Act): dados representativos e métricas desagregadas.

Se um modelo for treinado com 95% de peças da Fábrica A e apenas 5% da Fábrica B, pode reportar 95% de exatidão global e falhar totalmente para a Fábrica B! A representatividade dos dados é muito mais importante que o volume bruto.

Exatidão Global = w_A · Acc_A + w_B · Acc_B  |  Disparidade = |Acc_A − Acc_B|

Avaliar o desempenho separadamente por subgrupo é obrigatório para uma IA confiável.

🔬 Interactive Laboratory / Interaktivna laboratorija:

🔍 Guided Investigation / Istraživački zadatak:
  1. Falha minoritária oculta: Mantenha a Fábrica B a 5%. A exatidão global é ~95%, mas qual é a exatidão para a Fábrica B?
  2. Equilibrar representação: Aumente a quota da Fábrica B para 35%. Veja a exatidão da Fábrica B subir.
  3. Armadilha da memorização: Defina k = 1. O treino dá 100%, mas a generalização falha no teste.