Was sind KI-Halluzinationen?
Sprachmodelle erzeugen Text, indem sie wahrscheinliche Fortsetzungen berechnen. Das Ergebnis klingt meist flüssig und überzeugend, unabhängig davon, ob es stimmt. Eine Halluzination ist eine Aussage, die sachlich falsch ist oder keine Grundlage in den verfügbaren Quellen hat. Weil sie im selben selbstsicheren Ton formuliert ist wie korrekte Angaben, fällt sie Nutzer:innen oft nicht auf.
Für Marken ist das relevant, weil immer mehr Menschen KI-Systeme wie ChatGPT, Gemini, Claude oder die AI Overviews von Google nach Anbietern, Produkten und Kontaktdaten fragen.
Warum Sprachmodelle halluzinieren
Forschende von OpenAI und der Georgia Tech argumentieren in einem Paper vom September 2025, dass Sprachmodelle halluzinieren, weil Training und Bewertung Raten stärker belohnen als das Eingeständnis von Unsicherheit. Modelle würden wie Prüflinge optimiert, die bei schweren Fragen lieber raten als eine Lücke zu lassen. Halluzinationen seien daher eine statistische Folge des Trainings.
Hinzu kommen praktische Ursachen: Trainingsdaten haben einen Stichtag und veralten. Und wenn ein System für eine Antwort Webseiten abruft, übernimmt es auch deren Fehler, Lücken und Widersprüche.
Typische Halluzinationen über Unternehmen
- Falsche Stammdaten: In einem Kundenprojekt nannte Gemini für ein Weingut eine falsche Adresse und falsche Öffnungszeiten.
- Falsche Konditionen: Claude nannte für denselben Kunden Versandkosten, die nicht den Angaben im Onlineshop entsprachen.
- Falsche Personen: Gemini und Claude nannten für das Weingut Namen von Inhabern und Ansprechpartnern, die nicht stimmten.
- Erfundene URLs: In der Logfile-Auswertung einer großen Organisation liefen rund 15 Prozent der Abrufe von Claude-User auf Fehlerseiten (404), weil das Modell Adressen von Unterseiten erfunden hatte. Bei ChatGPT-User waren es nur 0,1 Prozent.
Wie verbreitet das ist, zeigt ein Faktencheck für dieselbe große Organisation: Von 450 KI-Antworten (150 Prompts in ChatGPT, Claude und Gemini) waren 20 Prozent vollständig korrekt, 37 Prozent korrekt, aber ungenau, 38 Prozent teilweise falsch und 2 Prozent falsch. Die übrigen rund 3 Prozent behandelten die Organisation nicht und blieben ohne Bewertung. Rund ein Drittel der Fehler ging auf die eigene Website zurück: Informationen, die nur in PDFs oder im Onlineportal standen oder über viele Seiten verstreut waren, inhaltliche Lücken und widersprüchliche Zahlen auf verschiedenen Seiten.
Grounding: So verringern Marken Halluzinationen
Grounding bedeutet, dass ein KI-System seine Antwort zusätzlich zu seinem trainierten Wissen an überprüfbare Quellen bindet, etwa an Suchergebnisse oder Dokumente. Ein bekanntes Verfahren dafür ist Retrieval-Augmented Generation (Lewis et al., 2020). Google Cloud bietet Grounding für Gemini-Modelle an, etwa mit der Google-Suche als Quelle (Google Cloud).
Unternehmen können das Modell nicht direkt korrigieren. Sie können aber beeinflussen, was ein System findet, wenn es sich auf Quellen stützt:
- Kernfakten im HTML: Adresse, Öffnungszeiten, Preise, Leistungen und Kennzahlen auf regulären HTML-Seiten veröffentlichen und PDFs nur ergänzend nutzen.
- Eine Angabe, eine Stelle: Widersprüchliche Zahlen auf verschiedenen Seiten bereinigen und veraltete Seiten aktualisieren oder weiterleiten.
- Strukturierte Daten: Organisationsdaten per Organization-Markup auszeichnen, passend zum sichtbaren Inhalt. Mehr dazu unter Schema und strukturierte Daten.
- Externe Profile pflegen: Laut Google-Leitfaden können das Unternehmensprofil und das Merchant Center helfen, Produkte und Leistungen in KI-Antworten sichtbar zu machen. Die Angaben dort sollten deshalb aktuell sein, ebenso in Branchenverzeichnissen und Bewertungsportalen.
- Crawler zulassen: Such-Crawler wie OAI-SearchBot, Claude-SearchBot und PerplexityBot sowie Abrufdienste wie ChatGPT-User oder Claude-User sollten die relevanten Seiten erreichen können.
- Erfundene URLs abfangen: Häufig angefragte, aber nicht existierende Adressen in den Logdateien identifizieren und, wo es sinnvoll ist, auf die passende Seite weiterleiten.
Halluzinationen erkennen und überwachen
Halluzinationen fallen meist nur auf, wenn jemand nachprüft. Bewährt hat sich ein fester Satz von Fragen zu Stammdaten, Angebot, Preisen und Unterscheidungsmerkmalen, der regelmäßig in mehreren KI-Systemen gestellt wird. Die Antworten werden gegen die eigenen Fakten geprüft und nach Schwere eingeordnet. Monitoring-Tools erkennen nicht jede Namensvariante, deshalb gehört eine manuelle Stichprobe dazu. Diese Prüfung ist Teil unseres KI-Monitorings. Wie sich die Präsenz insgesamt messen lässt, beschreibt der Artikel zur KI-Sichtbarkeit.
Was Unternehmen realistisch erreichen können
Halluzinationen lassen sich nicht vollständig verhindern, weil sie aus der Funktionsweise der Modelle entstehen. Die Fehlerquote über die eigene Marke lässt sich aber senken, und der größte Hebel liegt oft auf der eigenen Website. Wer Fakten eindeutig, aktuell und abrufbar veröffentlicht, liefert KI-Systemen die Grundlage für korrekte Antworten. Einen strukturierten Einstieg bietet das GEO-Audit.
