Explainable AI (XAI) – was bedeutet das?

Explainable AI (XAI) bedeutet erklärbare künstliche Intelligenz. Damit sind KI-Systeme gemeint, deren Entscheidungen für Menschen nachvollziehbar sind. Anstatt nur ein Ergebnis zu liefern, zeigt eine erklärbare KI auch, warum und wie sie zu dieser Entscheidung gekommen ist.

Ziel von XAI ist es, Vertrauen, Transparenz und Fairness zu schaffen – besonders in Bereichen, in denen KI wichtige Entscheidungen trifft, zum Beispiel im Gesundheitswesen, bei Krediten oder im Personalwesen.

Beispiel:
Ein KI-Modell sagt voraus, dass ein Kunde wahrscheinlich seinen Kredit nicht zurückzahlt. Eine Explainable AI zeigt zusätzlich, welche Faktoren (z. B. Einkommen, Zahlungsverhalten) zu dieser Einschätzung geführt haben. So können Menschen die Entscheidung nachvollziehen und prüfen.

Explainable AI (XAI) gehört zum Themenfeld Künstliche Intelligenz
und wird häufig im Zusammenhang mit Generativer KI und Machine Learning genannt.

Mehr Definitionen diesbzgl. finden Sie im
AZ-COM Glossar zur KI & Generative AI.
Für interessante Anregungen, themenbezogene Beiträge und Aktuelles lesen Sie hier auf: AZ-COM Blog.