GEO-Lexikon
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Aussage eines KI-Systems, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist, etwa ein falsches Datum, eine erfundene Quelle oder ein nicht existierendes Angebot.
Kurz erklärt
Sprachmodelle erzeugen wahrscheinliche Formulierungen, keine geprüften Fakten. Fehlen ihnen verlässliche Informationen, füllen sie die Lücke manchmal mit etwas Plausiblem, das nicht stimmt, und zwar im selben sicheren Tonfall wie bei richtigen Antworten.
Stand:
Warum halluzinieren KI-Systeme?
KI-Systeme halluzinieren, weil ein Large Language Model das jeweils wahrscheinlichste nächste Wort vorhersagt und dabei nicht prüft, ob eine Aussage wahr ist. Typische Auslöser sind:
- Fehlende oder veraltete Informationen in den Trainingsdaten
- Sehr spezielle Fragen, etwa zu kleinen Unternehmen oder neuen Produkten
- Widersprüchliche Angaben in verschiedenen Quellen
- Fragen, die eine falsche Annahme enthalten
Wie erkennt man eine KI-Halluzination?
- Quellen anklicken und prüfen, ob dort wirklich steht, was die KI behauptet
- Bei Zahlen, Daten, Namen und Zitaten besonders misstrauisch sein
- Dieselbe Frage anders formulieren und die Antworten vergleichen
Was bedeuten Halluzinationen für Unternehmen?
Halluzinationen betreffen Unternehmen auf zwei Arten. Erstens können KI-Assistenten falsche Angaben über ein Unternehmen machen, zum Beispiel veraltete Preise oder Leistungen, die es nicht gibt. Je klarer, aktueller und einheitlicher die Angaben auf der eigenen Website und auf anderen Seiten sind, desto geringer ist dieses Risiko. Zweitens sollten Teams, die KI im Alltag nutzen, Ergebnisse vor der Weitergabe an Kunden immer prüfen.