Halluzinationen erkennen

Eine Halluzination ist nicht ein Bug. Sie ist die Standardfunktion. Das Sprachmodell rät immer das nächste wahrscheinliche Wort. Wenn in den Trainingsdaten viel über Goethe steht, rät es bei Goethe- Fragen meist richtig. Wenn wenig über die örtliche Sozialberatung in deiner Stadt drinsteht, rät es trotzdem — und das, was es zurückgibt, klingt genauso souverän wie eine richtige Antwort.

Konkret: Du fragst, welches Sozialamt für deine PLZ zuständig ist. Die KI nennt dir eine Straße, eine Nummer, eine Telefonnummer. Alles klingt plausibel. Wenn du es nicht prüfst, glaubst du es. Du wirst dann erstaunt sein, wenn die Telefonnummer nicht existiert.

Das Wort "Halluzination" ist eine Metapher. Eigentlich ist es: konfidente Plausibilitäts-Konstruktion. Klingt sperrig. Halluzination klingt vertrauter. Aber: kein Bewusstsein, keine Bösartigkeit, keine Lüge. Nur Statistik mit Selbstbewusstsein.

Drei Hauptgründe für Halluzinationen, in absteigender Häufigkeit:

1. Knowledge Cutoff: Trainingsdaten enden zu einem bestimmten Zeitpunkt. Bei Claude Sonnet 4.6 ungefähr Anfang 2026. Was danach passiert ist — neue Gesetze, neue Bescheid-Formulare, neue Adressen — weiß die KI nicht. Sie tut aber so.
2. Datendichte: Bei Nischen-Themen (lokale Behörden, kleine Vereine, deine eigene Geschichte) ist die Datendichte gering. Das Raten wird ungenauer, klingt aber gleich selbstbewusst.
3. Anweisung im Konflikt mit Wahrheit:Wenn du fragst "Schreib mir drei Argumente für X" und es gibt eigentlich nur eines, erfindet die KI zwei dazu. Sie kann sich schwer weigern.

Implikation: Sei besonders vorsichtig, wenn dein Thema lokal, aktuell oder sehr spezifisch ist. Vorsichtsmaßnahmen siehe Häppchen 3 und 4.

Bei jeder konkreten Behauptung mit Zahl, Name oder Datum: Cross-Check. Eine zweite Quelle, gerne nicht-KI. Drei einfache Wege:

• Suchmaschine— KI sagt "das DRV-Formular heißt G0240". Suchmaschine zeigt: stimmt, oder gar nicht. 30 Sekunden.
• Offizielle Webseite— KI sagt "Telefonseelsorge ist 0800-111-0-111". Webseite telefonseelsorge.de bestätigt. 1 Minute.
• Telefonat / persönlicher Kontakt — bei juristisch oder finanziell wichtigen Auskünften: jemand fragen, der es weiß. Sozialberatung, Schuldnerberatung, Klinik-Sozial- dienst. Kostenlos, eindeutig.

Mach es zum Reflex: bei jeder Auskunft mit Konsequenzen — Cross- Check, bevor du handelst.

Sag der KI: Nenn mir Quellen mit URL, die ich nachprüfen kann. Das senkt Halluzinationen messbar. Aber: KI kann auch Quellen erfinden. Plausible URLs, plausible Autoren, alles zusammenfantasiert.

Deshalb: jede URL klicken. Wenn du auf 404 läufst oder die Seite zwar existiert, aber den genannten Inhalt nicht enthält — die Quelle war erfunden. Markier dir diesen Moment, er schult dein Misstrauen.

Praktischer Trick: Frag nach mindestens drei Quellen. Halluzinierte Quellen werden bei dieser Frage seltener — die KI "erinnert" sich dann eher an wirkliche.

Ein gutes Sprachmodell sagt offen: ich weiß das nicht oder für diese Frage habe ich keine verlässlichen Daten. Wenn dein Modell das nie sagt, ist das ein Warnsignal.

Frag explizit: bist du dir sicher, oder rätst du gerade? Bei Sonnet 4.5+ und Opus 4.5+ kommt darauf oft eine ehrliche Selbsteinschätzung. Bei älteren Modellen seltener.

Noch ein Trick: Welches Wissen würdest du brauchen, das du wahrscheinlich nicht hast? Diese Meta-Frage zwingt das Modell zur Reflexion über seine eigenen Lücken. Funktioniert nicht zuverlässig, aber oft erstaunlich gut.