CourionAI
DE
Newsletter
← Glossar Begriff

Halluzination

Wenn eine KI etwas Falsches oder Erfundenes so darstellt, als wäre es wahr.

Eine Halluzination liegt vor, wenn ein KI-Modell falsche oder völlig erfundene Informationen erzeugt, sie aber mit derselben Sicherheit wie eine richtige Antwort präsentiert. Weil ein großes Sprachmodell plausibel klingenden Text erzeugt, statt Fakten nachzuschlagen, kann es Quellen, Statistiken oder sogar Webadressen erfinden, die nie existierten.

Das ist keine seltene Störung, sondern eine eingebaute Eigenschaft dieser Modelle, mit realen Folgen. In einem Beispiel bemerkten Angreifer, dass KI-Werkzeuge wiederholt dieselben erfundenen Webadressen ausgaben. Sie registrierten diese Adressen und richteten schädliche Websites ein, auf denen sie auf eintreffende Nutzer warteten.

Die praktische Abwehr ist einfach: Prüfe alles Wichtige, Fakten, Zahlen, Links und Zitate, bevor du dich darauf verlässt. Behandle die Ausgabe einer KI als selbstbewussten Entwurf, nicht als fertige Quelle der Wahrheit.

Erwähnt in