Was sind KI-Halluzinationen?
Sprachmodelle erzeugen Text, indem sie wahrscheinliche Fortsetzungen berechnen. Das Ergebnis klingt meist flüssig und überzeugend, unabhängig davon, ob es stimmt. Eine Halluzination ist eine solche Aussage, die sachlich falsch ist oder keine Grundlage in den verfügbaren Quellen hat. Weil sie im selben selbstsicheren Ton formuliert ist wie korrekte Angaben, fällt sie Nutzern oft nicht auf.
Für Marken ist das relevant, weil immer mehr Menschen KI-Systeme wie ChatGPT, Gemini, Claude oder die AI Overviews von Google nach Anbietern, Produkten und Kontaktdaten fragen.
Warum Sprachmodelle halluzinieren
Forschende von OpenAI und der Georgia Tech argumentieren in einem Paper vom September 2025, dass Sprachmodelle halluzinieren, weil Training und Bewertung Raten stärker belohnen als das Eingeständnis von Unsicherheit. Modelle würden wie Prüflinge optimiert, die bei schweren Fragen lieber raten als eine Lücke zu lassen. Halluzinationen seien daher kein Mysterium, sondern eine statistische Folge des Trainings.
Hinzu kommen praktische Ursachen: Trainingsdaten haben einen Stichtag und veralten. Und wenn ein System für eine Antwort Webseiten abruft, übernimmt es auch deren Fehler, Lücken und Widersprüche.
Typische Halluzinationen über Unternehmen
- Falsche Stammdaten: In einem Kundenprojekt nannte Gemini für ein Weingut eine falsche Adresse und falsche Öffnungszeiten.
- Falsche Konditionen: Claude nannte für denselben Kunden Versandkosten, die nicht den Angaben im Onlineshop entsprachen.
- Falsche Personen: Gemini und Claude nannten für das Weingut Namen von Inhabern und Ansprechpartnern, die nicht stimmten.
- Erfundene URLs: In der Logfile-Auswertung einer großen Organisation liefen rund 15 Prozent der Abrufe von Claude-User auf Fehlerseiten (404), weil das Modell Adressen von Unterseiten erfunden hatte. Bei ChatGPT-User waren es nur 0,1 Prozent.
Wie verbreitet das ist, zeigt ein Faktencheck für dieselbe große Organisation: Von 450 KI-Antworten (150 Prompts in ChatGPT, Claude und Gemini) waren 20 Prozent vollständig korrekt, 37 Prozent korrekt, aber ungenau, 38 Prozent teilweise falsch und 2 Prozent falsch. Die übrigen rund 3 Prozent behandelten die Organisation nicht und blieben ohne Bewertung. Rund ein Drittel der Fehler ging auf die eigene Website zurück: Informationen, die nur in PDFs oder im Onlineportal standen oder über viele Seiten verstreut waren, inhaltliche Lücken und widersprüchliche Zahlen auf verschiedenen Seiten.
Grounding: So verringern Marken Halluzinationen
Grounding bedeutet, dass ein KI-System seine Antwort an überprüfbare Quellen bindet, etwa an Suchergebnisse oder Dokumente, statt nur auf sein trainiertes Wissen zurückzugreifen. Ein bekanntes Verfahren dafür ist Retrieval-Augmented Generation (Lewis et al., 2020). Google Cloud bietet Grounding für Gemini-Modelle an, etwa mit der Google-Suche als Quelle (Google Cloud).
Unternehmen können das Modell nicht direkt korrigieren. Sie können aber beeinflussen, was ein System findet, wenn es sich auf Quellen stützt:
- Kernfakten im HTML: Adresse, Öffnungszeiten, Preise, Leistungen und Kennzahlen auf regulären Seiten veröffentlichen, nicht nur in PDFs.
- Eine Angabe, eine Stelle: Widersprüchliche Zahlen auf verschiedenen Seiten bereinigen und veraltete Seiten aktualisieren oder weiterleiten.
- Strukturierte Daten: Organisationsdaten per Organization-Markup auszeichnen, passend zum sichtbaren Inhalt. Mehr dazu unter Schema und strukturierte Daten.
- Externe Profile pflegen: Laut Google-Leitfaden können das Unternehmensprofil und das Merchant Center helfen, Produkte und Leistungen in KI-Antworten sichtbar zu machen. Die Angaben dort sollten deshalb aktuell sein, ebenso in Branchenverzeichnissen und Bewertungsportalen.
- Crawler zulassen: Abrufdienste wie ChatGPT-User oder Claude-User sollten die relevanten Seiten erreichen können.
- Erfundene URLs abfangen: Häufig angefragte, aber nicht existierende Adressen in den Logdateien identifizieren und, wo es sinnvoll ist, auf die passende Seite weiterleiten.
Halluzinationen erkennen und überwachen
Halluzinationen fallen meist nur auf, wenn jemand gezielt nachsieht. Bewährt hat sich ein fester Satz von Fragen zu Stammdaten, Angebot, Preisen und Unterscheidungsmerkmalen, der regelmäßig in mehreren KI-Systemen gestellt wird. Die Antworten werden gegen die eigenen Fakten geprüft und nach Schwere eingeordnet. Dabei gilt: Monitoring-Tools erkennen nicht jede Namensvariante, eine manuelle Stichprobe gehört dazu. Diese Prüfung ist Teil unseres KI-Monitorings. Wie sich die Präsenz insgesamt messen lässt, beschreibt der Artikel zur KI-Sichtbarkeit.
Was Unternehmen realistisch erreichen können
Halluzinationen lassen sich nicht vollständig verhindern, weil sie aus der Funktionsweise der Modelle entstehen. Die Fehlerquote über die eigene Marke lässt sich aber senken, und der größte Hebel liegt oft auf der eigenen Website. Wer Fakten eindeutig, aktuell und abrufbar veröffentlicht, liefert KI-Systemen die Grundlage für korrekte Antworten. Einen strukturierten Einstieg bietet das GEO-Audit.
Sie wollen falsche KI-Aussagen über Ihr Unternehmen finden und verringern und brauchen Unterstützung? Dann kontaktieren Sie uns gerne oder lesen Sie mehr über unser KI-Monitoring! Sie wollen mehr erfahren oder Ihr Team zu diesem Thema schulen lassen? Dann schauen Sie mal bei unserem GEO-Seminar vorbei.
