Human oversight

Az emberi felügyelet (human oversight) elve biztosítja, hogy a magas kockázatú AI-rendszerek esetében emberi döntéshozó maradjon a végső felelős, és képes legyen felülbírálni vagy leállítani az automatizált folyamatot.

EU AI Act követelmények

A magas kockázatú AI-rendszereknél az EU AI Act emberi felügyeleti intézkedéseket ír elő, beleértve a megfelelő képzést, a felügyeleti pontok kijelölését és a leállítási lehetőséget.

Gyakorlati megvalósítás

• Human-in-the-loop: emberi jóváhagyás minden kritikus döntésnél
• Human-on-the-loop: emberi felügyelet folyamatos monitorozással
• Human-in-command: emberi irányítás a teljes folyamat felett

A felelős AI oktatásnak hangsúlyoznia kell, hogy az emberi felügyelet nem formai követelmény, hanem a biztonság és az accountability alapja.