Bias és fairness

Az algoritmikus elfogultság (bias) akkor jelentkezik, amikor az AI-rendszer szisztematikusan hátrányos vagy előnyös eredményt produkál bizonyos csoportok számára. A fairness (méltányosság) elve azt célozza, hogy az AI-döntések ne legyenek diszkriminatívak.

Források

A bias gyakran a képzési adatok torzításából, a feature kiválasztásából vagy a modell architektúrájából ered. A történelmi adatokban rejlő diszkriminációt a modell megtanulhatja és reprodukálhatja.

Mitigation stratégiák

• Adathalmaz audit és reprezentativitás ellenőrzése
• Fairness metrikák alkalmazása értékeléskor
• Emberi felügyelet a kritikus döntési pontokon
• Transzparens dokumentáció a modell korlátairól

Az EU AI Act magas kockázatú rendszereknél követeli a bias és diszkrimináció elleni intézkedéseket.