Einstieg in KI, Teil 4: Wenn die KI falschliegt, der 30-Sekunden-Check

Bitte einen Assistenten um eine Buchempfehlung, und er erfindet womöglich einen nie erschienenen Titel, samt glaubwürdigem Autor und freundlicher Kurzbeschreibung. Das ist das bekannte Halluzinationsproblem. Wer es richtig versteht, kann KI souverän statt nervös nutzen.

Die beruhigende Nachricht: Halluzinationen sind vorhersehbar. Sie häufen sich an bestimmten Stellen, und eine kleine Gewohnheit erkennt fast alle.

Warum eine Maschine Dinge erfindet

Ein Sprachmodell antwortet, indem es Wort für Wort vorhersagt, wie eine gute Antwort aussehen würde. Mehr steckt im Kern nicht dahinter. Kennt das Modell ein Thema gut, passen Vorhersage und Wahrheit wunderbar zusammen. Fehlt ihm Wissen, erzeugt derselbe Mechanismus trotzdem flüssigen, selbstbewussten Text und füllt die Lücken mit statistisch plausiblen Inhalten.

Forscher nennen einen zweiten Grund: Training und Bewertung haben eine überzeugende Vermutung lange stärker belohnt als ein ehrliches „Ich bin nicht sicher“. Ein Modell, das auf einem Test die Schultern zuckt, bekommt weniger Punkte als eines, das blufft. Also förderte das Training unauffällig den Bluff. Neuere Modelle drücken Unsicherheit besser aus, doch die Tendenz ist nicht verschwunden.

Eine Halluzination ist kein technischer Aussetzer. Die Sprachgewandtheit ist dem Wissen vorausgeeilt, vorgetragen mit derselben Sicherheit wie eine richtige Antwort.

Gerade diese Stimme verunsichert Einsteiger: Falsche Antworten sehen nicht anders aus als richtige. Kein Zögern, kein Warnsignal, derselbe freundliche Ton.

Wo Halluzinationen auftauchen

Sie verteilen sich nicht gleichmäßig. Rechne mit ihnen an den Rändern des Wissens: bei konkreten Zahlen, Daten, Preisen und Statistiken; bei Namen von Personen, Fachartikeln, Gerichtsverfahren und Büchern; bei aktuellen Ereignissen, wenn der Assistent nicht tatsächlich im Web gesucht hat; bei Nischenthemen, zu denen wenig geschrieben wurde; und bei Links oder Quellenangaben, die perfekt aussehen und ins Leere führen.

Bei den früheren Aufgaben dieser Reihe treten sie dagegen selten auf: eine E-Mail umschreiben, einen Begriff erklären, die Woche planen. Deshalb eignen sich diese Aufgaben für den Einstieg. Das Risiko steckt fast vollständig in „Finde eine Tatsache für mich“, nicht in „Hilf mir beim Nachdenken“.

Der 30-Sekunden-Check

Bei wichtigen Fakten hilft eine kurze Routine. Frage zuerst: Würde mich ein Fehler hier etwas kosten? Bei einem Essensplan kannst du entspannt bleiben. Geht es um Medizin, Recht, Finanzen oder einen Text zur Veröffentlichung, mach weiter. Prüfe zweitens mit einer schnellen Suche die tragende Tatsache, die Zahl oder den Namen, auf dem die Antwort beruht. Frage drittens den Assistenten selbst: „Wie sicher bist du? Was sollte ich noch einmal überprüfen?“ Modelle des Jahres 2026 antworten darauf erstaunlich ehrlich.

Dreißig Sekunden. Nicht bei jeder Aussage, sondern nur bei Fakten mit Gewicht. Nach einer Woche wird der Ablauf automatisch.

Was die Werkzeuge dagegen tun

Auch die Assistenten entwickeln sich weiter. Die meisten können vor Antworten auf zeitkritische Fragen im Web suchen, gute Systeme zeigen ihre Quellen. Europas neue KI-Regeln drängen Anbieter zu klareren Angaben über Grenzen. Und Interpretierbarkeitsforschung, etwa Anthropics Arbeit am internen „Arbeitsgedächtnis“ eines Modells, macht langsam sichtbar, was ein Modell wirklich weiß und was es nur behauptet.

Bis dahin gilt eine einfache Arbeitsteilung: Die KI liefert Geschwindigkeit und Breite, du lieferst das Urteil. Damit kommen wir zum letzten Teil der Reihe und zu deinem größten Hebel, den Informationen, die du gibst, bevor die KI antwortet.