Ein Chatbot war bei Liebesbetrug erfolgreicher als menschliche Betrüger
In einer kontrollierten einwöchigen Studie überredete ein KI-Betrüger 46 Prozent der Teilnehmer, eine App zu installieren. Menschen schafften 18 Prozent. Die meisten wussten, dass sie mit einem Bot sprachen.
Forschende an vier Universitäten simulierten eine Woche lang einen „Pig-Butchering“-Betrug: jene langsam aufgebaute Masche, bei der sich jemand tagelang oder wochenlang mit dir anfreundet, bevor er dich zu einer falschen Geldanlage oder schädlichen App lenkt. Einige Teilnehmer wurden von menschlichen Betrügern bearbeitet, andere von einem KI-Chatbot, der größtenteils auf einem Claude-Modell beruhte. Der Bot brachte 46 Prozent seiner 22 Ziele dazu, eine App zu installieren. Die Menschen schafften 18 Prozent.
Dieses Detail sollte hängen bleiben: 20 der 22 Teilnehmer erkannten richtig, dass sie mit einer KI sprachen. Viel geholfen hat es nicht. Der Vorteil beruhte laut den Forschenden auf nichts besonders Klugem. Der Bot blieb einfach hartnäckig, erinnerte sich über viele Tage genau an persönliche Einzelheiten und zeigte gleichmäßiges Interesse, ohne sich zu langweilen oder ablenken zu lassen. Rund 80 Prozent ihrer Nachrichten schickten die Teilnehmer an den Bot statt an die menschlichen Betrüger.
Das ist der unangenehme Befund, und er verdient Klartext. Diese Betrugsart funktioniert nicht wegen genialer Manipulation, sondern wegen anhaltender Aufmerksamkeit. Ein menschlicher Täter, der fünfzig Gespräche führt, wird nachlässig, vergisst, wem er welche Lüge erzählt hat, und schweigt zwei Tage lang. Software tut das nicht. Sie erinnert sich an den Namen deiner Schwester und deine Knieoperation, antwortet um zwei Uhr morgens und klingt nie müde von dir. Einsamkeit ist die Schwachstelle, unendliche Geduld der Exploit.
Eine faire Einschränkung: 22 Teilnehmer sind eine sehr kleine Stichprobe, es war eine kontrollierte Studie statt echter Betrug, und die Teilnehmer hatten einer Versuchsteilnahme zugestimmt. 46 Prozent sind keine echte Erfolgsquote. Die Richtung sollte man dennoch ernst nehmen, denn sie stimmt mit den Berichten von Betrugsermittlern aus dem vergangenen Jahr überein.
Was das für dich bedeutet: Der alte Rat, auf schlechte Grammatik zu achten und die Fälschung zu erkennen, ist fast nutzlos geworden. Selbst das Wissen, dass es ein Bot ist, schützt dich nicht. Schutz bietet eine Regel, die nicht von deiner Einschätzung im Moment abhängt: Installiere nie eine App, überweise nie Geld und eröffne nie ein Konto wegen eines Gesprächs, das mit einem Fremden begann, egal wie viele Wochen es dauert oder wie gut er dich inzwischen kennt. Entscheide das vorher in Ruhe. Sprich mit älteren Verwandten ausdrücklich darüber und formuliere es als Regel statt als Warnung vor Leichtgläubigkeit, denn die Scham darüber verhindert gerade die Bitte um Hilfe. Wenn jemand, den du liebst, schon länger freundlich mit einer neuen Internetbekanntschaft schreibt, frage behutsam nach. Dieses Gespräch lohnt sich, bevor die Geldfrage kommt.
Quellen
Amodei: Werbung löst das Vertrauensproblem der KI nicht, Krebsheilung vielleicht schon
Anthropics Chef räumte ein, dass die Branche ihre großen Versprechen nicht erfüllt hat, und befürwortete eine zentrale Aufsicht nach Vorbild der FINRA. Für den Leiter eines Spitzenlabors ist das ungewöhnlich.
