Was sind KI-Halluzinationen?

01Was bedeutet Halluzination?

Sie haben die KI nach Quellen zu einem Thema gefragt, und sie nannte Ihnen drei scheinbar saubere Artikel mit Autorenname, Erscheinungsjahr und sogar Seitenzahl. Bei der Suche stellte sich heraus, dass keiner davon existiert. Genau das ist eine KI-Halluzination: Statt zuzugeben, dass es etwas nicht weiß, erfindet das Modell eine überzeugende Antwort.

Der Begriff ist der Halluzination aus der menschlichen Psychologie entlehnt, doch der Mechanismus dahinter ist ein völlig anderer. Das Modell lügt nicht und versucht auch nicht zu täuschen. Es erzeugt lediglich die wahrscheinlichste Fortsetzung des Textes, den man ihm gegeben hat; diese Fortsetzung deckt sich manchmal nicht mit der Wirklichkeit.

Gefährlich macht das Problem das Erscheinungsbild des Fehlers. Falsche Informationen werden mit derselben Flüssigkeit und derselben Selbstsicherheit geschrieben wie richtige. Deshalb sind falsche KI-Informationen auf den ersten Blick schwer zu erkennen.

02Warum erfinden Modelle Dinge?

Die Ursache der Halluzination liegt in der Funktionsweise von Sprachmodellen. Ein Modell speichert Wissen nicht wie ein Lexikon; mit Mustern, die es aus Milliarden von Sätzen gelernt hat, sagt es in jedem Schritt das nächste Textstück voraus. Eine ausführliche Erklärung finden Sie in unserem Beitrag Was ist ein LLM?.

• Vorhersage ist kein Wissen: Das Modell erzeugt nicht das »Richtige«, sondern das »in diesem Kontext Wahrscheinlichste«.
• Fehlende Daten: Nischenthemen, lokales Wissen und neue Ereignisse kommen in den Trainingsdaten kaum oder gar nicht vor.
• Wissensstichtag: Entwicklungen nach dem Training kann das Modell von sich aus nicht kennen.
• Hilfsbereitschaft: Modelle werden darauf trainiert zu antworten; statt »Ich weiß es nicht« zu sagen, füllen sie Lücken möglicherweise auf.
• Unklare Frage: Ist die Frage nicht eindeutig, trifft das Modell eigene Annahmen und arbeitet auf dieser Grundlage weiter.
• Langer Kontext: In sehr langen Gesprächen können frühere Informationen untergehen, und es können widersprüchliche Antworten entstehen.

03Die häufigsten Arten von Halluzinationen

Halluzinationen verteilen sich nicht zufällig; bei bestimmten Aufgabentypen treten sie weit häufiger auf. Wer diese Typen kennt, weiß, wo er besonders aufmerksam sein muss.

04Risiken im Geschäftsalltag

Bei privater Nutzung ist eine Halluzination ein kleiner Zeitverlust. Im Geschäftsalltag können die Folgen ernst sein. Ein Support-Assistent, der Kunden eine falsche Rückgabebedingung nennt, eine Produktbeschreibung mit falschen technischen Angaben oder ein Blogbeitrag mit fehlerhaften Rechtsangaben können zu Vertrauensverlust und rechtlichen Problemen führen.

Auch bei Marketinginhalten ist das Risiko groß. Steht in einem von der KI geschriebenen Text ein Satz wie »Laut Studien …, 80 Prozent der Kunden …« und die Studie gibt es nicht, leidet die Glaubwürdigkeit der Marke. Deshalb sollte in Prozessen des Online-Marketings jede Zahl und jede Behauptung aus KI-Ausgaben mit der Quelle überprüft werden.

Auch für Suchmaschinen ist Genauigkeit wichtig. Seiten mit fehlerhaften Angaben schwächen das Vertrauen der Leser und damit die langfristige Sichtbarkeit; die regelmäßige Messung der Inhaltsqualität gehört zu SEO und Analyse.

05So verringern Sie Halluzinationen

Halluzinationen auf null zu senken ist heute nicht möglich, ihre Häufigkeit lässt sich aber deutlich verringern. Die meisten wirksamen Methoden bestehen darin, dem Modell besseren Kontext zu geben und ihm zu erlauben, »Ich weiß es nicht« zu sagen.

Geben Sie die Quelle vor

Statt vom Modell zu verlangen, Wissen aus dem Gedächtnis abzurufen, fügen Sie das betreffende Dokument, das Produktdatenblatt oder die Richtlinie in den Chat ein und sagen: »Antworte nur auf Grundlage dieses Textes.« In Unternehmenssystemen geschieht das mit Architekturen, die Dokumente automatisch suchen und bereitstellen.

Erlauben Sie Unsicherheit

Ergänzen Sie die Anweisung um den Satz: »Wenn du dir nicht sicher bist, sag das offen und rate nicht.« Dieser einfache Satz verringert die Neigung des Modells, Lücken mit Erfundenem zu füllen.

Grenzen Sie die Frage ein

Stellen Sie statt allgemeiner Fragen klare, begrenzte Fragen. Nennen Sie Rolle, Kontext, gewünschtes Format und ein Beispiel. Wirksame Techniken für gute Anweisungen haben wir in unserem Leitfaden Prompts richtig schreiben ausführlich beschrieben.

Nutzen Sie die Suchfunktion

Bevorzugen Sie bei Themen, die aktuelle Informationen erfordern, Assistenten mit Websuche und verlangen Sie Quellenlinks. Assistenten mit integrierter Suche wie Gemini können Links anzeigen; öffnen Sie sie dennoch und lesen Sie nach, ob der Inhalt die Behauptung tatsächlich stützt.

06Anzeichen für Erfundenes

Halluzinationen hinterlassen oft gemeinsame Spuren. Wer diese Anzeichen kennt, erkennt schnell, welche Sätze zusätzlich geprüft werden müssen. Keines davon ist für sich allein ein Beweis für einen Fehler, aber alle sollten als rote Flagge gelten.

Das stärkste Anzeichen ist übermäßige Gewissheit. Echte Fachleute verwenden bei unsicheren Themen Wörter wie »in der Regel« oder »meistens«; ein Modell kann auch eine Information ohne Quelle bis aufs Komma sicher präsentieren. Auch runde und beeindruckende Zahlen verdienen Aufmerksamkeit.

• Quellenangaben, die so detailliert sind, dass Sie sie nicht prüfen können: Autor, Jahr, Zeitschrift und Seitenzahl auf einmal.
• Angaben, die nicht zum Kontext passen oder der vorherigen Antwort widersprechen.
• Erstaunlich detaillierte Behauptungen zu lokalen und Nischenthemen.
• Produktfunktionen, Bibliotheken oder Einstellungen, von denen Sie nie gehört haben, ob es sie gibt.
• Zahlen und Daten, die sich ändern, wenn Sie dieselbe Frage erneut stellen.

07Methoden zur Überprüfung von KI-Aussagen

Eine kurze Checkliste vor der Veröffentlichung oder dem Versand an Kunden fängt den Großteil der Fehler ab. Diese Methoden zur Überprüfung von KI-Aussagen sollten im Team zum Standard werden.

1. Prüfen Sie jede Zahl, jedes Datum und jede Statistik in der Primärquelle.
2. Öffnen Sie jeden Link; sehen Sie nach, ob er existiert und tatsächlich belegt, was behauptet wird.
3. Verifizieren Sie Namen von Personen, Organisationen und Produkten auf offiziellen Websites.
4. Lassen Sie Rechts- und Steuerinformationen anhand der aktuellen offiziellen Quelle und von einer Fachperson bestätigen.
5. Stellen Sie dieselbe Frage anders formuliert oder einem anderen Modell und vergleichen Sie die Antworten.
6. Führen Sie Code unbedingt aus und testen Sie ihn; achten Sie auf nicht existierende Pakete und Funktionen.
7. Lassen Sie den endgültigen Text von jemandem lesen, der das Thema kennt.

08Schutzmaßnahmen im Systemdesign

Bedient KI als Teil einer Software Kunden, reicht es nicht, die Überprüfung allein der Aufmerksamkeit der Mitarbeiter zu überlassen. Das System selbst muss so gestaltet sein, dass es Fehler begrenzt.

Exakte Angaben wie Preis, Lagerbestand, Reservierung und Bestellstatus sollten nicht aus dem Gedächtnis des Modells, sondern direkt aus der Datenbank oder per API gelesen werden. Solche Live-Datenanbindungen werden im Rahmen einer E-Commerce-Integration und branchenspezifischer Softwarelösungen aufgebaut. Das Modell ist dann nur die Schicht, die diese Daten in natürliche Sprache übersetzt.

Zusätzlich sollte für Vorgänge mit hohem Risiko (Rückgabefreigabe, Zahlung, Vertrag) eine menschliche Freigabe verpflichtend sein, Antworten sollten protokolliert und Stichproben in regelmäßigen Abständen kontrolliert werden. Beantworten Sie Kundenfragen in sozialen Medien mit KI, gilt dasselbe Prinzip auch im Social-Media-Management.