Halluzination

Was ist eine Halluzination?

Eine Halluzination entsteht, wenn ein Sprachmodell Text erzeugt, der sprachlich kohärent, aber inhaltlich falsch ist - erfundene Fakten, Namen, Quellen oder Zahlen, die im Tonfall genauso sicher klingen wie korrekte Aussagen.

Wie es funktioniert

Ein Sprachmodell berechnet bei jedem Token, welche Fortsetzung statistisch am wahrscheinlichsten ist - unabhängig davon, ob der bisherige Kontext faktisch korrekt ist. Es gibt keinen internen Mechanismus, der eine bereits begonnene, aber falsche Aussage erkennt und korrigiert. Hat sich die Generierung einmal auf einen falschen Fakt festgelegt, führt jedes folgende Token diese Linie konsistent weiter, weil es auf Basis des bereits generierten - falschen - Kontexts berechnet wird.

Warum eine falsche Antwort trotzdem überzeugt klingt

Sprachliche Sicherheit und faktische Richtigkeit sind zwei getrennte Eigenschaften des generierten Textes - das Modell optimiert durchgehend für sprachliche Kohärenz, nicht für Wahrheitsgehalt. Ein souveräner, bestimmter Tonfall ist deshalb kein verlässlicher Hinweis auf Korrektheit.

Halluzination ist kein Fehler im Sinne eines defekten Systems, sondern eine direkte Konsequenz davon, wie Sprachmodelle grundsätzlich arbeiten: Sie generieren Wahrscheinlichkeiten, keine geprüften Fakten.

Warum Halluzination praktische Auswirkungen hat

• Modellgröße: Kleinere Modelle neigen unter vergleichbaren Bedingungen häufiger zu Halluzinationen, weil ihre geringere Modellkapazität feine Zusammenhänge oft schlechter abbilden kann - Trainingsdaten, Architektur, Fine-Tuning und Prompt spielen dabei ebenfalls eine große Rolle
• Prüfpflicht: Fakten, Zahlen, Zitate und Quellenangaben aus Sprachmodell-Antworten sollten bei sicherheitsrelevanten oder faktenkritischen Aufgaben unabhängig geprüft werden
• Themenabhängigkeit: Halluzinationen treten häufiger bei Nischenthemen, seltenen Details oder Fragen außerhalb der Trainingsdaten auf

Typisches Beispiel

Ein Modell erfindet einen plausibel klingenden Buchtitel samt Autor und Erscheinungsjahr, obwohl das Buch nicht existiert - die Antwort liest sich dabei genauso überzeugt wie eine korrekte.

Weiterführend

Grundlagen → Wie ein Sprachmodell funktioniert

Verwandte Begriffe → Inferenz
→ Parameter