Explainability

A magyarázható mesterséges intelligencia (Explainable AI, XAI) azt a képességet jelenti, hogy az AI-rendszer döntéseit ember számára érthető módon lehessen interpretálni.

Miért fontos?

A mély neurális hálók gyakran „fekete doboz" jellegűek: magas pontosság mellett nehéz megérteni, mi vezetett egy adott kimenethez. Ez problémás lehet egészségügyi, pénzügyi vagy jogi kontextusban, ahol indoklás szükséges.

Megközelítések

• Modell-specifikus magyarázó módszerek (pl. feature importance)
• Post-hoc magyarázatok a predikciók után
• Inherently interpretable modellek egyszerűbb feladatoknál

Az EU AI Act magas kockázatú rendszereknél átláthatósági és dokumentációs követelményeket ír elő, amelyek összefüggésben állnak a magyarázhatóság elvével.