Was ist ein LLM?
Ein Sprachmodell schätzt laut Google, wie wahrscheinlich ein Token oder eine Folge von Tokens innerhalb eines längeren Textes ist. Ein Token ist die kleinste Einheit, mit der das Modell rechnet: ein ganzes Wort, ein Wortteil oder ein einzelnes Zeichen.
Ein LLM nutzt diese Fähigkeit, um Text fortzusetzen. Es sagt das nächste Token voraus, hängt es an und sagt dann das nächste voraus. Aus vielen solchen Schritten entsteht ein Satz, ein Absatz oder ein ganzer Text. Ein einfaches Beispiel: Auf „Die Hauptstadt von Frankreich ist“ folgt mit sehr hoher Wahrscheinlichkeit „Paris“.
„Large“ steht für die Größe: LLMs werden mit sehr großen Textmengen trainiert. Daraus lernen sie Sprache, Zusammenhänge und viel Faktenwissen, aber kein geprüftes Wissen im Sinne einer Datenbank.
Wie ein LLM arbeitet
Technische Grundlage vieler LLMs ist der Transformer, eine Architektur, die 2017 im Fachaufsatz „Attention Is All You Need“ vorgestellt wurde. Laut Google ist der Transformer heute die führende Architektur für viele Sprachanwendungen, etwa für Übersetzungen.
Der Kern heißt Self-Attention, deutsch Selbstaufmerksamkeit. Für jedes Token prüft das Modell, wie stark die übrigen Tokens seine Bedeutung beeinflussen. So erkennt es, dass „Bank“ in „Ich sitze auf der Bank im Park“ etwas anderes meint als in „Ich eröffne ein Konto bei der Bank“.
Wichtig für die Praxis ist das Kontextfenster. Es umfasst den gesamten Text, den das Modell beim Antworten berücksichtigen kann: Ihre Frage, den bisherigen Gesprächsverlauf, eingefügte Dokumente und die Antwort selbst. Anthropic beschreibt es als Arbeitsgedächtnis des Modells, getrennt von den Trainingsdaten. Mehr Kontext ist dabei nicht automatisch besser: Je mehr Text im Fenster steht, desto eher übersieht das Modell Einzelheiten.
Stärken und Grenzen
LLMs fassen Texte zusammen, übersetzen, schreiben Entwürfe, beantworten Fragen und bringen unstrukturierte Angaben in eine feste Form. Ihre Grenzen sollten Sie trotzdem kennen:
- Halluzinationen: Ein LLM erzeugt wahrscheinliche Texte, nicht zwingend wahre. Es kann Fakten, Zahlen oder Quellen erfinden, die überzeugend klingen. Mehr dazu unter KI-Halluzinationen.
- Wissensstand: Das im Training gelernte Wissen endet mit dem Stand der Trainingsdaten. Neuere Informationen kennt das Modell nur, wenn sie ihm über eine Suche oder ein Dokument ins Kontextfenster gegeben werden.
- Verzerrungen: Wie alle Modelle des maschinellen Lernens können LLMs Verzerrungen aus ihren Trainingsdaten übernehmen, etwa einseitige Darstellungen.
- Aufwand: Training und Betrieb großer Modelle brauchen laut Google viel Rechenleistung und Strom.
LLMs und Suche: warum das Ihre Website betrifft
Immer mehr Menschen stellen ihre Fragen direkt an KI-Assistenten oder lesen die KI-Antworten über den Suchergebnissen, etwa die AI Overviews von Google. Damit ein LLM aktuelle Informationen nennen kann, ruft der Dienst passende Seiten ab und übergibt sie dem Modell zusammen mit der Frage. Das Modell formuliert daraus eine Antwort und nennt im besten Fall die Quellen.
Für Ihre Website heißt das: Sie muss für die Such-Crawler dieser Dienste erreichbar sein, und ihre Inhalte müssen so klar formuliert sein, dass ein Modell sie richtig wiedergibt. OpenAI etwa schreibt, dass Websites, die ihren Such-Crawler OAI-SearchBot aussperren, nicht in den Suchantworten von ChatGPT erscheinen. Welche Crawler Sie zulassen, regeln Sie in der robots.txt. Wie Sie Inhalte für KI-Antworten aufbereiten, erklärt der Artikel zu Generative Engine Optimization.
LLMs im Marketing sinnvoll einsetzen
- Für Entwürfe, nicht für Endfassungen: Gliederungen, Varianten für Anzeigentexte oder Zusammenfassungen langer Dokumente sind gute Einsatzgebiete. Die fachliche Prüfung bleibt bei Ihnen.
- Quellen mitgeben: Fügen Sie die Unterlagen, auf die sich die Antwort stützen soll, direkt in die Anfrage ein und verlangen Sie wörtliche Zitate daraus. Das empfiehlt Anthropic ausdrücklich, um Halluzinationen zu verringern.
- Unsicherheit erlauben: Sagen Sie dem Modell, dass es „Ich weiß es nicht“ antworten darf. Sonst füllt es Lücken lieber mit Vermutungen.
- Präzise fragen: Je genauer Aufgabe, Zielgruppe und gewünschtes Format beschrieben sind, desto brauchbarer das Ergebnis. Mehr dazu unter Prompt Engineering.
- Vertrauliches schützen: Klären Sie vorab, welche Kundendaten und internen Unterlagen in welchen Dienst eingegeben werden dürfen.
Sie möchten wissen, ob KI-Assistenten Ihr Unternehmen kennen und richtig darstellen? Dann kontaktieren Sie uns gerne oder lesen Sie mehr über unsere Leistungen rund um GEO!
