Halluzinationen: Warum KI falsche Fakten erfindet – und wie Sie sich schützen

Sie fragen eine KI nach den Öffnungszeiten einer Behörde, einem Paragrafen oder einer Quelle. Die Antwort kommt flüssig, freundlich, mit Details – und ist teilweise erfunden. Dieses Phänomen heißt Halluzination. Es ist kein seltener Ausrutscher, sondern eine Eigenschaft der Technik. Wer sie versteht, kann damit arbeiten.

Warum es passiert

Sprachmodelle wie ChatGPT sind keine Datenbanken und keine Suchmaschinen. Sie haben aus sehr vielen Texten gelernt, welche Wörter in welchem Zusammenhang wahrscheinlich aufeinander folgen. Daraus erzeugen sie neue Sätze. Das Modell prüft dabei nicht, ob etwas wahr ist, sondern ob es plausibel klingt.

Daraus ergeben sich typische Fehlerquellen:

• Lücken im Wissen: Wo das Modell wenig gelernt hat, füllt es auf, anstatt „weiß ich nicht“ zu sagen.
• Veraltetes Wissen: Das Modell kennt nur Daten bis zu einem bestimmten Zeitpunkt.
• Suggestive Fragen: Wer eine Behauptung in die Frage packt, bekommt sie oft bestätigt.
• Genaue Details: Zahlen, Namen, Aktenzeichen, Zitate und Webadressen werden häufig falsch wiedergegeben.
• Vermischung: Ähnliche Fälle oder Personen werden zusammengeworfen.

Woran Sie ein Risiko erkennen

Misstrauen ist angebracht bei:

• sehr konkreten Angaben ohne Quelle
• Quellenangaben, die sich nicht öffnen lassen
• Antworten, die auffallend perfekt zu Ihrer Frage passen
• Aussagen zu Recht, Gesundheit, Finanzen und Preisen
• Texten, die sich im Gespräch plötzlich widersprechen

Sieben Schutzgewohnheiten

1. Eigene Quellen mitgeben. Fügen Sie den relevanten Text, die Preisliste oder das Dokument in die Anfrage ein und bitten Sie, nur daraus zu antworten. Das kann Erfindungen spürbar verringern, ersetzt aber nicht die Prüfung.
2. Unsicherheit erlauben. Schreiben Sie ausdrücklich: „Wenn Sie etwas nicht sicher wissen, sagen Sie das.“
3. Quellen verlangen und öffnen. Links und Zitate selbst aufrufen und prüfen. Erfundene Quellen sind ein bekanntes Problem.
4. Zahlen und Namen nachrechnen und nachschlagen. Besonders bei Preisen, Fristen, Gesetzen.
5. Zweite Instanz. Bei wichtigen Aussagen mit Fachstelle, Behörde oder Fachperson gegenprüfen.
6. Freigabe durch Menschen. Nichts an Kunden senden oder veröffentlichen, das nicht von jemandem gelesen wurde, der das Thema kennt.
7. Geeignete Aufgaben wählen. KI ist stark beim Umformulieren, Zusammenfassen vorgelegter Texte, Strukturieren und Ideensammeln; schwächer beim Faktenwissen aus dem Gedächtnis.

Was das im Betrieb heißt

• Website- und Werbetexte: Fakten, Preise und Versprechen selbst prüfen. Erfundene Angaben auf einer Website können Kunden irreführen und rechtliche Folgen haben.
• Rechtliche Texte: Impressum, Datenschutz und Widerrufsbelehrung nicht allein von einer KI erstellen lassen.
• Kundenkommunikation: Antwortentwürfe sind Entwürfe, keine fertigen Mails.
• Interne Auswertungen: Rechenergebnisse stichprobenartig nachprüfen.

Auch Googles Hinweise zu hilfreichen Inhalten betonen Zuverlässigkeit und Nachvollziehbarkeit, siehe KI-Texte und Google.

Werkzeuge werden besser, das Prinzip bleibt

Anbieter arbeiten daran, Fehler zu verringern, zum Beispiel durch Suchanbindung und Quellenangaben. Das hilft, schließt Fehler aber nicht aus. Das BSI weist in seinen Informationen zu KI auf Risiken solcher Systeme hin. Behandeln Sie KI-Ausgaben deshalb wie die Zuarbeit einer neuen Kollegin: hilfreich, aber vor der Weitergabe zu prüfen.

Fazit

Halluzinationen sind der Preis für die Stärke von Sprachmodellen: Sie formulieren flüssig, aber sie wissen nicht, was stimmt. Wer eigene Quellen mitgibt, Unsicherheit zulässt und konsequent prüft, kann KI verantwortungsvoll einsetzen. Wie das in der Praxis geübt wird, zeigt unser Kurs Prompt Engineering in der KI-Akademie; für die Einführung im Betrieb gibt es die KI-Beratung.