Betrüger haben einen neuen Trick: Sie registrieren die Webadressen, die KI erfindet

Du hast wahrscheinlich schon gehört, dass KI-Chatbots manchmal „halluzinieren“, also Dinge selbstbewusst als wahr darstellen, die nicht stimmen. Normalerweise ist das lästig. Sicherheitsforscher von Palo Alto Networks haben jedoch einen Fall dokumentiert, in dem daraus eine echte Falle wird, dank des Einfallsreichtums von Betrügern.

So funktioniert der Aufbau: Wenn du einen Chatbot um einen Link bittest, „Wo melde ich mich für das Bonusprogramm meiner Bank an?“, erfindet er gelegentlich eine Webadresse, die vollkommen plausibel aussieht, aber nicht existiert. Die entscheidende Entdeckung der Forscher: Modelle erfinden nicht zufällig. Stellt man dieselbe Art von Frage oft genug, tauchen immer wieder dieselben erfundenen Adressen auf. Eine erfundene Adresse, zu der Tausende Menschen selbstbewusst geschickt werden, ist Geld wert. Betrüger können sie einfach registrieren, meist für wenige Dollar, und dort eine gefälschte Anmeldeseite aufbauen. Die KI übernimmt anschließend mit jeder hilfreichen Antwort die Werbung für sie. Die Forscher nennen das „Phantom Squatting“.

Die Zahlen vermitteln einen Eindruck vom Umfang. Das Team führte rund 685.000 Linkanfragen zu 913 bekannten Marken durch und sammelte 2,1 Millionen von KI erzeugte Webadressen. Rund 13.000 führten bereits zu bestätigten bösartigen Websites. Noch beunruhigender: Etwa 250.000 regelmäßig erfundene Adressen waren weiterhin nicht registriert, kostenloses Land für künftige Betrugsversuche. In einem dokumentierten Fall bemerkten Forscher, dass Modelle immer wieder eine bestimmte Adresse erfanden, die dem Shop eines nationalen Postdienstes ähnelte. 23 Tage später registrierte jemand genau diese Adresse und installierte dort ein Phishing-Paket, das Kartennummern und Bankzugangsdaten abgriff.

Ungewöhnlich an diesem Angriff ist, was er nicht benötigt: keine betrügerische E-Mail, keine dubiose Anzeige, keinen Schreibfehlertrick wie „arnazon.com“. Das Opfer stellt einer KI eine ehrliche Frage, erhält eine selbstbewusste Antwort und klickt darauf. Das Vertrauen, das wir KI-Antworten entgegenbringen, bildet die gesamte Angriffsfläche. Fairerweise ist der Umfang begrenzt: Die meisten dieser 250.000 Adressen werden nie als Waffe eingesetzt. Die Methode lohnt sich vor allem bei Banken, Gesundheitsdiensten und Behördenportalen, bei denen eine überzeugende Fälschung lukrativ ist.

Was das für dich bedeutet: Eine Gewohnheit schützt dich: Behandle Links von KI-Chatbots wie die Wegbeschreibung eines hilfsbereiten Fremden, wahrscheinlich richtig, aber eine Überprüfung wert. Wenn es um Geld oder Passwörter geht, klicke nicht auf den Link. Rufe die Website so auf, wie du es bereits kennst: über dein Lesezeichen, die offizielle App oder indem du die Hauptadresse selbst eingibst. Gibt dir ein Chatbot einen Anmeldelink, ist genau das der Moment für Misstrauen, echte Dienste brauchen selten eine KI, die dir zeigt, wo ihre Eingangstür ist.

Quellen

• Palo Alto Networks Unit 42, Phantom Squatting: Von KI halluzinierte Domains als Angriffsweg auf die Softwarelieferkette
• The Hacker News, Phantom Squatting nutzt von KI halluzinierte Domains für Phishing und Schadsoftware
• Dark Reading, Phantom Squatting: Eine neue, KI-getriebene Bedrohung für die Lieferkette