KI-Halluzinationen: Warum ChatGPT Dinge erfindet und wie Sie Ihr Unternehmen davor schützen

Was sind KI-Halluzinationen?

Halluzinationen künstlicher Intelligenz (engl. AI hallucination, bei Sprachmodellen auch LLM hallucination) sind Situationen, in denen ein Modell eine glaubwürdig klingende, aber falsche Antwort erzeugt. OpenAI definiert sie als „plausible, aber falsche Aussagen, die von Sprachmodellen erzeugt werden“. Ein LLM, also ein großes Sprachmodell, ist die Engine hinter ChatGPT, Gemini oder Copilot. Den größeren Zusammenhang, von der Auswahl der Tools bis zur Einführung im Team, haben wir zusammengestellt in Leitfaden zu künstlicher Intelligenz im Unternehmen.

Eine Halluzination ist keine Lüge im menschlichen Sinne. Das Modell weiß nicht, dass es sich irrt. Es sagt die wahrscheinlichste Wortfolge voraus, und diese Folge ergibt manchmal einen nicht existierenden Bericht, ein Markteinführungsdatum, das es nie gab, oder ein Zitat des Vorstandschefs, das nie jemand gesagt hat. Das Schlimmste? Eine falsche Antwort klingt genauso selbstsicher wie eine richtige.

• Erfundene Fakten. Ein Datum, eine Zahl, ein Name oder ein Finanzergebnis, das es nie gab.
• Erfundene KI-Quellen. Der Titel eines Artikels, Berichts oder Urteils, den es nicht gibt, oft mit einer glaubwürdig aussehenden Webadresse.
• Falsche Zuordnung. Die Quelle ist echt, sagt aber nicht das, was das Modell behauptet.
• Veraltete Informationen. Ein Stand von vor einigen Monaten, als aktuell dargestellt.

Warum KI Dinge erfindet

Im September 2025 veröffentlichte OpenAI eine Analyse der Ursachen von Halluzinationen bei Sprachmodellen. Die Schlussfolgerung ist einfach und etwas unbequem: Modelle werden so trainiert und bewertet, dass sich Raten für sie lohnt. Belohnt ein Test nur richtige Antworten, bringt „ich weiß es nicht“ immer null Punkte, ein Treffer ins Blaue dagegen zumindest eine gewisse Chance. Also lernt das Modell zu raten.

Der zweite Grund ist die Art, wie ein Modell sich „erinnert“. Allgemeine Sprachmuster beherrscht es gut: Grammatik, Stil, typische Assoziationen. Seltene Einzelfakten, etwa das Gründungsdatum eines mittelständischen Unternehmens aus dem Karpatenvorland oder den Namen seines Vertriebsleiters, hat es in seinen Daten einmal oder gar nicht gesehen, und genau dort halluzinieren ChatGPT und andere Chatbots am häufigsten.

Der dritte Grund liegt beim Fragenden. Ein Prompt mit versteckter These („Nenne drei Studien, die belegen …“) verleitet das Modell dazu, die Antwort anzupassen, statt zu widersprechen. Wie man Prompts schreibt, die das nicht provozieren, zeigen wir in unserem Leitfaden zu Prompts für das Marketing.

Wie oft ChatGPT und andere Modelle halluzinieren

Die eine Zahl gibt es nicht. Die Halluzinationsrate hängt vom Modell ab, von der Art der Aufgabe und davon, ob das Modell Quelldokumente vor sich hat. Unten finden Sie drei unabhängige Messungen, die das Ausmaß gut zeigen.

Zwei bekannte Fälle, in denen eine Halluzination ein Unternehmen teuer zu stehen kam

Im Februar 2024 entschied ein kanadisches Tribunal im Fall Moffatt gegen Air Canada. Der Chatbot auf der Website der Fluggesellschaft hatte einem Kunden fälschlich mitgeteilt, er könne einen Trauerfall-Rabatt auf sein Ticket innerhalb von 90 Tagen nach der Reise beantragen. Die Airline argumentierte, der Chatbot sei eine „eigenständige Einheit“, die für ihre Aussagen selbst verantwortlich sei. Das Tribunal wies das zurück: Das Unternehmen haftet für die Informationen auf seiner Website, unabhängig davon, ob ein Mensch oder ein Programm sie gegeben hat. Die Entschädigung war gering, rund 650 kanadische Dollar. Trotzdem ging der Fall um die Welt.

Im Herbst 2025 erklärte sich Deloitte bereit, die letzte Honorarrate für einen Bericht an die australische Regierung zurückzuzahlen. In dem Dokument wurden unter anderem nicht existierende wissenschaftliche Publikationen und ein erfundenes Zitat aus einem Gerichtsurteil entdeckt, und das Unternehmen räumte ein, bei der Arbeit das Modell GPT-4o genutzt zu haben. Die Fehler fand ein Wissenschaftler der Universität Sydney.

Was haben beide Fälle gemeinsam? Eine Halluzination ist kein technisches Problem mehr, sobald sie beim Kunden ankommt. Ab diesem Moment ist sie eine Frage der Reputation und muss auch so behandelt werden, mit einer vorbereiteten Stellungnahme und einer Person, die sie vertritt. Wie Sie sich darauf vorbereiten, bevor etwas passiert, beschreiben wir in unserem Leitfaden zur Krisen-PR-Management.

Für wen Halluzinationen ein Problem sind und in welchen Situationen

Das Risiko steigt an zwei Stellen: dort, wo KI-Inhalte ungeprüft das Unternehmen verlassen, und dort, wo jemand auf ihrer Grundlage eine Entscheidung trifft. Stellen Sie sich vor der Veröffentlichung eine Frage: Steht im Text etwas, das ein Journalist oder Kunde in fünf Minuten überprüfen kann? Wenn ja, prüfen Sie es zuerst selbst.

KI-Halluzinationen Schritt für Schritt reduzieren

Einen Schalter „ohne Halluzinationen“ gibt es nicht. Was funktioniert, sind einige einfache Gewohnheiten. Jede für sich ändert wenig, zusammen senken sie das Risiko aber auf ein Niveau, mit dem ein Team im Alltag gelassen arbeiten kann, ohne das Gefühl, jede Antwort des Modells wie eine Mine entschärfen zu müssen.

1. SCHRITT 01Geben Sie dem Modell Quellen

   Statt das Modell aus dem Gedächtnis antworten zu lassen, fügen Sie Dokumente ein oder binden sie an: einen Bericht, eine Preisliste, eine Notiz. Unternehmen, die das systematisch tun, bauen einen Assistenten auf Basis eigener Dokumente. Wie das funktioniert und wann es sich lohnt, erklären wir im Artikel über RAG, also KI auf Basis des Unternehmenswissens.

2. SCHRITT 02Erlauben Sie ein „Ich weiß es nicht“

   Ergänzen Sie Ihren Prompt um einen Satz: „Wenn du dir nicht sicher bist oder die Information nicht in den Dokumenten steht, schreib, dass du es nicht weißt.“ Das ist die direkte Antwort auf den von OpenAI beschriebenen Mechanismus.

3. SCHRITT 03Verlangen Sie Verweise und öffnen Sie sie

   Öffnen Sie jede vom Modell genannte Quelle und prüfen Sie zwei Dinge: ob sie überhaupt existiert und ob sie wirklich sagt, was das Modell behauptet, denn eine glaubwürdig aussehende Webadresse beweist für sich genommen gar nichts.

4. SCHRITT 04Grenzen Sie die Aufgabe ein

   Eine konkrete Aufgabe pro Prompt. „Fasse Kapitel 3 zusammen“ führt zu weniger Fehlern als „Schreib alles über den Markt“.

5. SCHRITT 05Prüfen Sie immer vier Dinge

   Zahlen, Namen, Zitate, Daten. Eine Überprüfung der KI-Antwort in diesen vier Punkten dauert wenige Minuten und fängt die gefährlichsten Fehler ab.

6. SCHRITT 06Ein Mensch gibt frei und zeichnet ab

   Nichts geht ohne die Freigabe einer konkreten, namentlich genannten Person nach außen. Das ist auch eine Voraussetzung für die Befreiung von der Kennzeichnungspflicht für KI-Texte, mehr dazu in unserem Artikel über die Kennzeichnung von KI-Inhalten nach dem AI Act.

Was der Schutz vor Halluzinationen kostet

Der günstigste Schutz ist Disziplin. Ein paar Minuten Prüfung für jeden Text mit Fakten kosten weniger als eine einzige Richtigstellung. Das Budget steigt erst, wenn ein Unternehmen einen Chatbot für Kunden oder einen Assistenten auf Basis eigener Dokumente einführt, denn dann müssen eine Wissensbasis aufgebaut, Antworten auf typische Fragen getestet und eine Person bestimmt werden, die das Ganze dauerhaft überwacht.

Wenn ein Modell über Ihre Marke fantasiert

Halluzinationen betreffen nicht nur die Texte, die ein Unternehmen schreibt, sondern auch das, was Modelle über das Unternehmen selbst sagen. Ein Kunde fragt einen Chatbot nach Anbietern der Branche und erhält ein erfundenes Angebot, einen veralteten Firmensitz oder den falschen Namen des Vorstandschefs. Eine Commplace-Messung vom 21. September 2026 zeigt, dass bei 28 von 40 Suchbegriffen, für die der Commplace-Blog in den Top 20 von Google rankt, eine KI-Antwort in den Ergebnissen erscheint. Menschen lesen also immer öfter die Version des Modells, bevor sie die Website des Unternehmens sehen.

Modelle fantasieren seltener über Marken, zu denen es viele glaubwürdige und stimmige Veröffentlichungen gibt. Deshalb ist der Schutz vor Halluzinationen über das eigene Unternehmen zu einem großen Teil PR-Arbeit: Medienberichte, aktuelle Daten auf der Website, einheitliche Beschreibungen in Verzeichnissen. Den Mechanismus erklären wir ausführlicher im Artikel darüber, warum Medienveröffentlichungen bestimmen, was ChatGPT über Ihr Unternehmen sagt. Beginnen Sie mit einer Messung. Audit der Sichtbarkeit in KI bedeutet, dass Sie den Modellen die Fragen stellen, die Ihre Kunden stellen, und festhalten, was sie antworten.

Wann man KI eher vertrauen kann — und wann nicht

KI bewährt sich dort, wo Sie selbst das Material liefern und das Ergebnis beurteilen: Lektorat Ihres eigenen Textes, Zusammenfassung einer Besprechungsnotiz, Varianten von Überschriften, Übersetzung mit anschließender Korrektur. Halluzinationen kommen hier seltener vor und lassen sich leicht erkennen, weil Sie das Original kennen.

Vorsicht ist geboten bei seltenen Fakten, Vorschriften, aktuellen Ereignissen, Marktzahlen und konkreten Personen. Wenn von der Antwort Geld, Gesundheit, Recht oder Reputation abhängen, kann das Modell einen Entwurf liefern, die Entscheidung trifft aber ein Mensch, nachdem er die Quellen geprüft hat. Eine umfassendere Übersicht der Risiken finden Sie im Text über Risiken und Ethik von KI im Unternehmen, und die rechtlichen Pflichten beschreibt unser Beitrag über Der AI Act in Polen.

Sie wählen ein Tool für Ihr Team? Einen Vergleich der Tarife finden Sie in der Übersicht ChatGPT, Gemini oder Copilot für Unternehmen. Planen Sie einen Chatbot für Ihre Kunden? Lesen Sie zuerst, wie man Chatbots im Kundenservice gestaltet. Überprüfung als Gewohnheit statt als Ausnahme bringen wir Marketing- und Kommunikationsteams bei in KI-Schulungen für Unternehmen.

Gewohnheiten, durch die KI-Erfindungen in Veröffentlichungen gelangen

Weiterlesen