KI-Halluzinationen: Warum Sprachmodelle Dinge erfinden
KI-Modelle halluzinieren, weil dieselben Mechanismen, die sie kreativ und flexibel machen, sie auch Dinge erfinden lassen: Sie berechnen plausible Fortsetzungen, keine gesicherten Fakten. Halluzinationen sind daher kein Bug, der einfach verschwindet, sondern eine Grundeigenschaft heutiger Sprachmodelle. Entscheidend ist der Umgang damit: unkritisch nutzbar, wo Kreativität zählt – kontrollbedürftig überall dort, wo Fehler echte Folgen haben, etwa in Medizin oder Recht.
Redaktionell aufbereitet aus unseren Originalausgaben. Alle verwendeten Newsletter und externen Quellen sind am Ende des Artikels verlinkt.
Das Wichtigste
- Eine Halluzination ist Inhalt, den ein KI-Modell erzeugt, der plausibel klingt, aber nicht in den Eingabedaten oder der Realität verankert ist.
- Moderne KI-Systeme funktionieren fundamental anders als klassische Software: Sie interpretieren und assoziieren wie Menschen – und machen dabei auch Fehler. Die Excel-Logik „Computer rechnen immer richtig“ gilt für sie nicht.
- Derselbe Mechanismus hat zwei Gesichter: In der Medizin sind erfundene Diagnosen gefährlich, in der Forschung führte gezielt provoziertes „kreatives Chaos“ (DeepMinds FunSearch) zur Lösung eines offenen Mathematikproblems.
- Ein drastisches Beispiel: Forscher der University of Michigan fanden 2024 in Transkripten von OpenAIs Spracherkennung Whisper reihenweise erfundene Inhalte – obwohl Whisper-basierte Tools damals bereits von zehntausenden Ärzten genutzt wurden.
- Wer KI mündig einsetzen will, muss kein Techniker sein – aber grob verstehen, wo die Stärken und Schwächen liegen, um zu entscheiden, wann ein Ergebnis noch einmal geprüft werden muss.
Erklärung und Kontext
In der deterministischen Welt klassischer Software galt: Computer machen keine Fehler. Eine Excel-Tabelle rechnet korrekt, ein Programm führt seinen Code exakt aus. Große Sprachmodelle brechen mit dieser Gewissheit. Sie erzeugen Text, indem sie aus Mustern in ihren Trainingsdaten die plausibelste Fortsetzung berechnen – nicht, indem sie in einer Datenbank nachschlagen. Das macht sie erstaunlich flexibel. Und es bedeutet: Wenn die plausibelste Fortsetzung faktisch falsch ist, schreibt das Modell sie trotzdem hin, mit demselben souveränen Ton.
Wie folgenreich das sein kann, zeigte 2024 der Fall Whisper: OpenAIs Spracherkennungsmodell wurde – in einer auf medizinische Sprache abgestimmten Variante – von über 30.000 Ärzten und 40 Krankenhäusern zur Transkription von Patientengesprächen eingesetzt. Forscher der University of Michigan stellten fest, dass in einem Großteil der untersuchten Audiotranskriptionen halluzinierte Inhalte auftauchten – Text, den niemand gesagt hatte. Mal harmlos, mal gravierend: In einem Fall erfand das System eine nicht existierende Medikamentenklasse („hyperaktivierte Antibiotika“), in einem anderen fügte es einer neutralen Personenbeschreibung ungesagte Aussagen zur Hautfarbe hinzu. Das Grundproblem: Auf Millionen bereits transkribierter Gespräche war nachträglich kein Verlass mehr.
Feature oder Bug? Die zwei Seiten der Halluzination
Was wie ein schlichter Defekt aussieht, hat einen interessanten Hintergrund: Die gleichen Mechanismen, die KI-Systeme zu kreativen Leistungen befähigen, erzeugen auch Halluzinationen. Einige KI-Forscher argumentieren deshalb, Halluzinationen seien ein notwendiges „Feature“ – ohne sie gäbe es keine KI-Kreativität.
Das ist keine Schutzbehauptung, sondern lässt sich zeigen: Google DeepMind regte beim Projekt FunSearch ein Sprachmodell gezielt zu „Halluzinationen“ an, um neue Lösungsansätze für ungelöste Mathematikprobleme zu generieren. Die teils zufälligen, halluzinierten Algorithmen wurden automatisch getestet, einer nach dem anderen – bis tatsächlich ein bis dahin offenes Problem (im Umfeld des „Cap Set“-Problems) gelöst war. Kontrolliertes Chaos als Entdeckungsmethode.
Die Pointe für den Alltag: Ob eine Halluzination Katastrophe oder Kreativleistung ist, entscheidet nicht das Modell, sondern der Einsatzkontext – und ob jemand die Ergebnisse prüft, bevor sie Folgen haben.
So geht man praktisch damit um
- Kontext sortieren: Brainstorming, Textentwürfe, Ideenfindung vertragen Halluzinationen – dort sind sie teils sogar nützlich. Diagnosen, Verträge, Zahlen und Zitate vertragen sie nicht.
- Prüfschleifen einbauen: Überall, wo KI-Ausgaben Entscheidungen auslösen, gehört ein menschlicher Kontrollschritt oder ein automatischer Abgleich mit verlässlichen Quellen dazwischen.
- Quellenbindung nutzen: Werkzeuge, die Antworten mit überprüfbaren Quellen belegen (Websuche, dokumentbasierte Antworten), reduzieren das Risiko – ersetzen die Prüfung aber nicht.
- Misstrauisch bei Präzisem: Am gefährlichsten sind Halluzinationen dort, wo sie am präzisesten klingen – erfundene Paragrafen, Studien oder Medikamentennamen. Genau diese Details stichprobenartig verifizieren.
Grenzen und Risiken
Die Aussage „Halluzinationen sind ein Feature“ darf nicht als Entwarnung missverstanden werden. Im medizinischen, juristischen oder finanziellen Kontext sind sie schlicht ein Risiko – und zwar eines, das durch den souveränen Ton der Modelle systematisch unterschätzt wird. Auch mit besseren Modellen, Quellenanbindung und Guardrails sinkt die Halluzinationsrate zwar, verschwindet aber nicht. Wer KI-Transkription oder KI-Recherche in kritischen Prozessen einsetzt, übernimmt die Verantwortung für die Prüfung – das war der eigentliche Skandal am Whisper-Fall: nicht dass das Modell halluziniert, sondern dass es trotz bekannter Warnungen unkontrolliert in der Praxis lief.
Häufige Fragen
Was genau ist eine KI-Halluzination?
Inhalt, den ein KI-Modell erzeugt, der nicht durch Eingabedaten oder Realität gedeckt ist – erfundene Fakten, Zitate, Quellen oder (bei Transkription) nie gesagte Sätze. Er klingt typischerweise genauso überzeugend wie korrekter Inhalt.
Kann man Halluzinationen komplett abstellen?
Nach heutigem Stand nein. Sie sind eine Nebenwirkung der Funktionsweise von Sprachmodellen. Reduzieren lassen sie sich durch Quellenanbindung, bessere Modelle und enge Aufgabenstellung – eliminieren nicht.
Warum klingt eine Halluzination so überzeugend?
Weil das Modell keine Unsicherheit „fühlt“: Es erzeugt die statistisch plausibelste Fortsetzung, und plausibel klingt nun einmal überzeugend. Der Tonfall eines Modells ist deshalb kein Indikator für Korrektheit.
Sind Halluzinationen jemals nützlich?
Ja – überall dort, wo ungewöhnliche, noch ungeprüfte Ideen gefragt sind. DeepMinds FunSearch nutzte gezielt provozierte Halluzinationen, um neue mathematische Lösungswege zu finden, die anschließend automatisch verifiziert wurden. Das Muster: Halluzinieren lassen, dann hart testen.
Quellen und ursprüngliche AI-Peanuts-Ausgaben
- AI-Peanuts-Ausgabe vom 29.10.2024: „Halluzinationen – Feature oder Bug?“
- Google DeepMind: FunSearch (geprüft am 19.08.2026)
- AP-Bericht zur Whisper-Studie der University of Michigan (aus der Ausgabe verlinkt; Stand Oktober 2024)