Halluzination
Eine Halluzination ist eine Aussage eines KI-Sprachmodells, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist, etwa ein nicht existierendes Urteil, eine falsche Zahl oder eine erfundene Quelle. Sie entsteht, weil das Modell wahrscheinliche Fortsetzungen erzeugt und nicht Fakten prüft.
Auch bekannt als: KI-Halluzination, Hallucination, Konfabulation, erfundene Fakten
Was ist eine Halluzination?
Eine Halluzination ist eine Aussage eines KI-Sprachmodells, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist, etwa ein nicht existierendes Urteil, eine falsche Zahl oder eine erfundene Quelle. Sie entsteht, weil das Modell wahrscheinliche Fortsetzungen erzeugt und nicht Fakten prüft.
Der Begriff ist unglücklich, weil er an Wahrnehmungsstörungen erinnert, hat sich aber durchgesetzt. Gemeint ist ein nüchternes technisches Phänomen: Ein Large Language Model berechnet für jede Stelle im Text die wahrscheinlichste Fortsetzung. Wenn es nach einem Urteil des Bundesarbeitsgerichts zu einem bestimmten Thema gefragt wird und kein passendes kennt, erzeugt es trotzdem etwas, das wie ein Aktenzeichen aussieht, weil Aktenzeichen an dieser Stelle wahrscheinlich sind. Das Ergebnis liest sich korrekt und ist es nicht.
Halluzinationen sind der wichtigste Grund, warum KI-Ergebnisse geprüft werden müssen. Sie sind zugleich beherrschbar, wenn man ihre Ursachen kennt und die Arbeitsweise entsprechend anpasst.
Warum Halluzinationen entstehen
Die erste Ursache ist fehlendes Wissen. Das Modell kennt Ihre Preisliste nicht, Ihre Verträge nicht und Ereignisse nach seinem Trainingsstichtag nicht. Wird es dazu befragt und nicht ausdrücklich zur Zurückhaltung angehalten, füllt es die Lücke mit Plausiblem. Je spezifischer die Frage, desto größer das Risiko.
Die zweite Ursache ist die Aufgabenstellung. Ein Prompt wie “Nenne drei Studien, die belegen, dass …” verlangt Belege, und das Modell liefert, was verlangt wird, auch wenn es keine passenden Studien kennt. Prompts, die eine bestimmte Antwort erwarten, erzeugen erfahrungsgemäß häufiger Halluzinationen als offene Fragen, die auch “Das weiß ich nicht” zulassen.
Die dritte Ursache liegt in der Erzeugung selbst. Der Parameter Temperature steuert, wie viel Zufall bei der Auswahl des nächsten Tokens mitspielt. Hohe Werte fördern kreative Texte, erhöhen aber das Risiko sachlicher Abweichungen. Auch sehr lange Antworten und sehr lange Gespräche erhöhen die Wahrscheinlichkeit, dass sich irgendwo ein Fehler einschleicht.
Die vierte Ursache sind Zahlen und Rechnungen. Modelle verarbeiten Zahlen als Textbausteine, nicht als Werte. Eine Summe über zwanzig Posten oder eine Prozentrechnung kann deshalb falsch sein, obwohl die Darstellung tadellos wirkt.
So reduzieren Sie Halluzinationen
Die wirksamste Maßnahme ist, dem Modell die Informationen mitzugeben, die es für die Antwort braucht. Wer Claude einen Vertrag vorlegt und Fragen dazu stellt, bekommt Antworten aus dem Vertrag, nicht aus dem Gedächtnis. Im Unternehmen heißt das: Dokumente hochladen, Projekte mit Wissensbereich anlegen oder bei großen Beständen ein System nach dem Prinzip Retrieval Augmented Generation aufbauen.
Die zweite Maßnahme ist die Anweisung. Sätze wie “Antworte nur auf Grundlage der bereitgestellten Dokumente”, “Wenn du etwas nicht weißt, sage das” oder “Erfinde keine Quellen, Zahlen oder Zitate” senken die Rate erfundener Angaben spürbar. Claude ist darauf trainiert, solche Anweisungen zu befolgen und Unsicherheit zu benennen. Wie solche Anweisungen aufgebaut werden, gehört zum Prompt Engineering und wird im Praxisleitfaden Claude richtig prompten beschrieben.
Die dritte Maßnahme ist Nachvollziehbarkeit. Lassen Sie das Modell Quellen nennen und Seitenzahlen angeben. Fordern Sie bei komplexen Aufgaben einen Lösungsweg nach dem Prinzip Chain of Thought, damit Fehler im Weg sichtbar werden. Nutzen Sie die Websuche, wenn es um aktuelle Fakten geht, und prüfen Sie die verlinkten Quellen.
Die vierte Maßnahme ist die Prüfung durch Menschen. Sie ist bei Aussagen mit Folgen unverzichtbar: bei Rechtsfragen, Zahlen, Zusagen an Kunden, Angaben in Verträgen und allem, was nach außen geht. Für Rechnungen sollte das Modell nicht selbst rechnen, sondern eine Tabellenkalkulation oder ein Werkzeug nutzen, das echtes Rechnen erlaubt.
Praxisbeispiel aus dem Unternehmensalltag
Ein Steuerbüro mit 25 Mitarbeitenden nutzt Claude, um Mandantenfragen vorzubereiten. Eine Mitarbeiterin fragt nach der Frist für einen bestimmten Antrag und bekommt eine präzise Antwort mit Paragraph und Datum. Bei der Prüfung stellt sich heraus: Der Paragraph existiert, regelt aber etwas anderes, und die Frist ist falsch. Das Modell hatte eine plausible Antwort erzeugt, weil ihm die aktuelle Regelung fehlte.
Das Büro ändert daraufhin die Arbeitsweise. Für steuerrechtliche Fragen wird ein Projekt angelegt, in dem die relevanten Gesetzestexte und die internen Arbeitsanweisungen hinterlegt sind. Die Projektanweisung lautet unter anderem: “Beantworte Fragen zu Fristen und Paragraphen nur auf Grundlage der hinterlegten Dokumente. Nenne bei jeder Angabe die Fundstelle. Wenn die Dokumente keine Antwort enthalten, sage das ausdrücklich.” Seitdem verweist Claude bei Fragen außerhalb der Dokumente auf die fehlende Grundlage, statt zu raten, und die Mitarbeitenden prüfen jede Fundstelle vor der Weitergabe an den Mandanten. Der Vorfall wurde zum Schulungsbeispiel für das gesamte Büro.
Bedeutung für kleine und mittelständische Unternehmen
Für KMU ist der Umgang mit Halluzinationen der Kern der KI-Kompetenz, die der EU AI Act seit Februar 2025 von Unternehmen verlangt. Wer weiß, dass ein Modell überzeugend falsch liegen kann, und weiß, wie man das Risiko senkt und Ergebnisse prüft, kann KI verantwortlich einsetzen. Wer es nicht weiß, übernimmt früher oder später eine erfundene Angabe in einen Vertrag, ein Angebot oder eine Kundenantwort.
Die gute Nachricht: Das Wissen lässt sich in kurzer Zeit vermitteln. In unserer Claude Schulung üben Mitarbeitende an eigenen Beispielen, Halluzinationen zu provozieren, zu erkennen und durch bessere Anweisungen zu vermeiden. Die KI-Schulung für Unternehmen ordnet das Thema in die Pflichten des AI Act ein. Worauf bei Schulungen zu achten ist, beschreibt der Artikel KI-Schulungen für Mitarbeiter.
Eine interne Regel hat sich in vielen Unternehmen bewährt: Nichts, was von einer KI stammt, geht ohne Prüfung durch einen Menschen nach außen. Diese Regel kostet wenig und verhindert die teuersten Fehler.
Vorteile und Grenzen
Halluzinationen haben keinen Vorteil, aber ihr Verständnis hat einen: Wer das Phänomen kennt, nutzt KI mit der richtigen Erwartung. Das Modell ist ein schneller, belesener Entwurfsschreiber, kein Nachschlagewerk und kein Gutachter.
Die Grenze liegt darin, dass sich Halluzinationen reduzieren, aber nicht ausschließen lassen. Jede Maßnahme senkt das Risiko, keine beseitigt es. Die Verantwortung für eine Aussage bleibt bei dem, der sie verwendet. Unternehmen, die das in ihre Prozesse einbauen, mit Quellen, klaren Anweisungen und Prüfschritten, haben erfahrungsgemäß keine Probleme mit Halluzinationen, sondern ein Werkzeug, dessen Grenzen sie kennen.