Halluzination (KI) – was bedeutet das?

Eine Halluzination in der KI bezeichnet eine falsche oder erfundene Information, die ein künstliches Intelligenzsystem erzeugt, obwohl sie nicht auf echten Daten oder Fakten basiert. Solche Fehler entstehen, wenn ein Modell Lücken im Wissen schliesst oder wahrscheinliche, aber unrichtige Antworten generiert – oft, um scheinbar hilfreich zu wirken.

Halluzinationen sind ein bekanntes Problem bei Sprachmodellen (LLMs) wie ChatGPT oder Gemini, weil sie sprachlich überzeugend klingen, aber inhaltlich falsch sein können.

Beispiel:
Wenn eine KI auf die Frage „Wer hat das iPhone erfunden?“ mit „Bill Gates“ antwortet, handelt es sich um eine KI-Halluzination, da die richtige Antwort Steve Jobs lautet.

Halluzination (KI) gehört zum Themenfeld Künstliche Intelligenz
und wird häufig im Zusammenhang mit Generativer KI und Machine Learning genannt.

Mehr Definitionen diesbzgl. finden Sie im
AZ-COM Glossar zur KI & Generative AI.
Für interessante Anregungen, themenbezogene Beiträge und Aktuelles lesen Sie hier auf: AZ-COM Blog.