Les escrocs ont trouvé une nouvelle astuce : enregistrer les adresses web inventées par l’IA

Vous avez probablement déjà entendu dire que les chatbots d’IA « hallucinent » parfois, c’est-à-dire qu’ils affirment avec assurance des choses fausses. D’ordinaire, c’est agaçant. Mais les chercheurs en sécurité de Palo Alto Networks ont documenté un cas où le phénomène devient un véritable piège, grâce à l’imagination d’escrocs.

Voici le mécanisme. Lorsque vous demandez un lien à un chatbot, « où me connecter au programme de récompenses de ma banque ? », il invente parfois une adresse web parfaitement plausible mais inexistante. La découverte essentielle des chercheurs : les modèles n’inventent pas au hasard. Posez assez souvent le même type de question et les mêmes adresses fictives réapparaissent. Une adresse inventée vers laquelle des milliers de personnes seront envoyées avec assurance a de la valeur. Les escrocs peuvent simplement l’enregistrer, généralement pour quelques dollars, et y créer une fausse page de connexion. L’IA se charge ensuite de la publicité, réponse utile après réponse utile. Les chercheurs appellent cette technique le « phantom squatting ».

Les chiffres donnent une idée de l’ampleur. L’équipe a lancé environ 685 000 demandes de liens portant sur 913 marques connues et recueilli 2,1 millions d’adresses web générées par l’IA. Environ 13 000 menaient déjà à des sites malveillants confirmés. Plus inquiétant encore, quelque 250 000 adresses régulièrement inventées n’étaient toujours pas enregistrées, un terrain libre pour de futures escroqueries. Dans un cas documenté, les chercheurs ont remarqué que les modèles inventaient sans cesse une adresse précise ressemblant à la boutique d’un service postal national. Vingt-trois jours plus tard, quelqu’un a enregistré cette adresse exacte et installé un kit de hameçonnage qui récupérait les numéros de carte et les identifiants bancaires.

L’attaque est inhabituelle par ce dont elle n’a pas besoin : aucun e-mail frauduleux, aucune publicité douteuse, aucune faute trompeuse comme « arnazon.com ». La victime pose une question sincère à une IA, reçoit une réponse assurée et clique. La confiance accordée aux réponses de l’IA constitue toute la surface d’attaque. Une réserve quant à l’ampleur : la plupart de ces 250 000 adresses ne seront jamais transformées en armes, la technique est surtout rentable pour les banques, les services de santé et les sites publics, où une imitation convaincante peut rapporter gros.

Ce que cela signifie pour vous : Une habitude suffit à vous protéger : traitez les liens fournis par un chatbot comme les indications d’un inconnu serviable, probablement correctes, mais à vérifier. Lorsque de l’argent ou des mots de passe sont en jeu, ne cliquez pas ; rendez-vous sur le site par le chemin que vous connaissez déjà, avec votre favori, l’application officielle ou en saisissant vous-même l’adresse principale. Si un chatbot vous donne un lien de connexion, c’est précisément le moment de vous méfier, les vrais services ont rarement besoin d’une IA pour vous indiquer leur porte d’entrée.

Sources

• Palo Alto Networks Unit 42, Phantom Squatting : les domaines hallucinés par l’IA comme vecteur dans la chaîne d’approvisionnement logicielle
• The Hacker News, Le Phantom Squatting exploite les domaines hallucinés par l’IA pour le hameçonnage et les logiciels malveillants
• Dark Reading, Phantom Squatting : une nouvelle menace pour la chaîne d’approvisionnement alimentée par l’IA