KI-Halluzinationen 

KI-Halluzinationen: falsche KI-Antworten erkennen und verringern

Zwei Frauen im Büro, eine tippt am Computer, die andere schreibt in ein Notizbuch.
Ralph Grundmann · Zuletzt aktualisiert am 04.11.2026

Von KI-Halluzinationen spricht man, wenn ein Sprachmodell Aussagen erzeugt, die plausibel klingen, aber falsch oder frei erfunden sind: etwa falsche Adressen, veraltete Preise, erfundene Zitate oder nicht existierende URLs. Für Unternehmen sind Halluzinationen über die eigene Marke ein konkretes Risiko für Reputation und Vertrieb.

Was sind KI-Halluzinationen?

Sprachmodelle erzeugen Text, indem sie wahrscheinliche Fortsetzungen berechnen. Das Ergebnis klingt meist flüssig und überzeugend, unabhängig davon, ob es stimmt. Eine Halluzination ist eine Aussage, die sachlich falsch ist oder keine Grundlage in den verfügbaren Quellen hat. Weil sie im selben selbstsicheren Ton formuliert ist wie korrekte Angaben, fällt sie Nutzer:innen oft nicht auf.

Für Marken ist das relevant, weil immer mehr Menschen KI-Systeme wie ChatGPT, Gemini, Claude oder die AI Overviews von Google nach Anbietern, Produkten und Kontaktdaten fragen.

Warum Sprachmodelle halluzinieren

Forschende von OpenAI und der Georgia Tech argumentieren in einem Paper vom September 2025, dass Sprachmodelle halluzinieren, weil Training und Bewertung Raten stärker belohnen als das Eingeständnis von Unsicherheit. Modelle würden wie Prüflinge optimiert, die bei schweren Fragen lieber raten als eine Lücke zu lassen. Halluzinationen seien daher eine statistische Folge des Trainings.

Hinzu kommen praktische Ursachen: Trainingsdaten haben einen Stichtag und veralten. Und wenn ein System für eine Antwort Webseiten abruft, übernimmt es auch deren Fehler, Lücken und Widersprüche.

Typische Halluzinationen über Unternehmen

  • Falsche Stammdaten: In einem Kundenprojekt nannte Gemini für ein Weingut eine falsche Adresse und falsche Öffnungszeiten.
  • Falsche Konditionen: Claude nannte für denselben Kunden Versandkosten, die nicht den Angaben im Onlineshop entsprachen.
  • Falsche Personen: Gemini und Claude nannten für das Weingut Namen von Inhabern und Ansprechpartnern, die nicht stimmten.
  • Erfundene URLs: In der Logfile-Auswertung einer großen Organisation liefen rund 15 Prozent der Abrufe von Claude-User auf Fehlerseiten (404), weil das Modell Adressen von Unterseiten erfunden hatte. Bei ChatGPT-User waren es nur 0,1 Prozent.

Wie verbreitet das ist, zeigt ein Faktencheck für dieselbe große Organisation: Von 450 KI-Antworten (150 Prompts in ChatGPT, Claude und Gemini) waren 20 Prozent vollständig korrekt, 37 Prozent korrekt, aber ungenau, 38 Prozent teilweise falsch und 2 Prozent falsch. Die übrigen rund 3 Prozent behandelten die Organisation nicht und blieben ohne Bewertung. Rund ein Drittel der Fehler ging auf die eigene Website zurück: Informationen, die nur in PDFs oder im Onlineportal standen oder über viele Seiten verstreut waren, inhaltliche Lücken und widersprüchliche Zahlen auf verschiedenen Seiten.

Grounding: So verringern Marken Halluzinationen

Grounding bedeutet, dass ein KI-System seine Antwort zusätzlich zu seinem trainierten Wissen an überprüfbare Quellen bindet, etwa an Suchergebnisse oder Dokumente. Ein bekanntes Verfahren dafür ist Retrieval-Augmented Generation (Lewis et al., 2020). Google Cloud bietet Grounding für Gemini-Modelle an, etwa mit der Google-Suche als Quelle (Google Cloud).

Unternehmen können das Modell nicht direkt korrigieren. Sie können aber beeinflussen, was ein System findet, wenn es sich auf Quellen stützt:

  1. Kernfakten im HTML: Adresse, Öffnungszeiten, Preise, Leistungen und Kennzahlen auf regulären HTML-Seiten veröffentlichen und PDFs nur ergänzend nutzen.
  2. Eine Angabe, eine Stelle: Widersprüchliche Zahlen auf verschiedenen Seiten bereinigen und veraltete Seiten aktualisieren oder weiterleiten.
  3. Strukturierte Daten: Organisationsdaten per Organization-Markup auszeichnen, passend zum sichtbaren Inhalt. Mehr dazu unter Schema und strukturierte Daten.
  4. Externe Profile pflegen: Laut Google-Leitfaden können das Unternehmensprofil und das Merchant Center helfen, Produkte und Leistungen in KI-Antworten sichtbar zu machen. Die Angaben dort sollten deshalb aktuell sein, ebenso in Branchenverzeichnissen und Bewertungsportalen.
  5. Crawler zulassen: Such-Crawler wie OAI-SearchBot, Claude-SearchBot und PerplexityBot sowie Abrufdienste wie ChatGPT-User oder Claude-User sollten die relevanten Seiten erreichen können.
  6. Erfundene URLs abfangen: Häufig angefragte, aber nicht existierende Adressen in den Logdateien identifizieren und, wo es sinnvoll ist, auf die passende Seite weiterleiten.

Halluzinationen erkennen und überwachen

Halluzinationen fallen meist nur auf, wenn jemand nachprüft. Bewährt hat sich ein fester Satz von Fragen zu Stammdaten, Angebot, Preisen und Unterscheidungsmerkmalen, der regelmäßig in mehreren KI-Systemen gestellt wird. Die Antworten werden gegen die eigenen Fakten geprüft und nach Schwere eingeordnet. Monitoring-Tools erkennen nicht jede Namensvariante, deshalb gehört eine manuelle Stichprobe dazu. Diese Prüfung ist Teil unseres KI-Monitorings. Wie sich die Präsenz insgesamt messen lässt, beschreibt der Artikel zur KI-Sichtbarkeit.

Was Unternehmen realistisch erreichen können

Halluzinationen lassen sich nicht vollständig verhindern, weil sie aus der Funktionsweise der Modelle entstehen. Die Fehlerquote über die eigene Marke lässt sich aber senken, und der größte Hebel liegt oft auf der eigenen Website. Wer Fakten eindeutig, aktuell und abrufbar veröffentlicht, liefert KI-Systemen die Grundlage für korrekte Antworten. Einen strukturierten Einstieg bietet das GEO-Audit.



 Ihr nächster Schritt 

Sie wollen falsche KI-Aussagen über Ihr Unternehmen finden und verringern und brauchen Unterstützung?

Wie wir vorgehen, beschreibt unsere Seite KI-Monitoring. Im Erstgespräch klären wir, was für Ihre Website sinnvoll ist. Schulungen für Ihr Team bieten wir in unseren Seminaren an.


Erstgespräch anfragen
 Häufige Fragen 

KI-Halluzinationen: die wichtigsten Fragen

Kann ich falsche KI-Antworten über mein Unternehmen korrigieren lassen?

Einen direkten Korrekturweg in das Modell gibt es nicht. Wirksam ist, die Quellen zu verbessern, auf die sich KI-Systeme stützen: eigene Website, Unternehmensprofile und externe Einträge.

Was ist Grounding?

Grounding bedeutet, dass ein KI-System seine Antwort an überprüfbare Quellen wie Suchergebnisse oder Dokumente bindet. Das senkt das Risiko von Halluzinationen, setzt aber voraus, dass diese Quellen selbst korrekt sind.

Warum erfinden KI-Systeme URLs?

Sprachmodelle erzeugen plausible Zeichenketten, auch Webadressen. Existiert die Seite nicht, landet der Abruf auf einer Fehlerseite. In Server-Logdateien lassen sich solche Abrufe erkennen und auf passende Seiten weiterleiten.

Weitere Begriffe

 Erstgespräch anfragen 

Fragen zu diesem Thema?

Schreiben Sie uns kurz, worum es geht. Sie sprechen direkt mit Ralph Grundmann.
Microsoft Partner Badge
SISTRIX-zertifizierte Agentur
4,9
Basierend auf 32 Rezensionen

Bewertungen aus unserem Google-Unternehmensprofil. Wir gleichen jede Bewertung mit unseren Kundenprojekten ab.

Erstgespräch anfragen
Ralph Grundmann
Ralph GrundmannGründer und GeschäftsführerAnrufen: 0228 243 313 53

* Pflichtangabe

Bitte geben Sie Ihren Namen ein.

Bitte geben Sie eine gültige E-Mail-Adresse ein, z. B. name@firma.de.

Für einen Rückruf.

Bitte geben Sie Ihre Nummer mit Vorwahl ein, z. B. 0228 243 313 53 oder +49 228 243 313 53.

Bitte schreiben Sie uns kurz, worum es geht.

Kostenlos und unverbindlich. Antwort in der Regel noch am selben Werktag.

Informationen zur Verarbeitung Ihrer Daten: Datenschutzerklärung