Los estafadores han encontrado un nuevo truco: registrar las direcciones web que se inventa la IA

Probablemente hayas oído que los chatbots de IA a veces «alucinan», es decir, afirman con total seguridad cosas que no son ciertas. Por lo general, es una molestia. Pero investigadores de seguridad de Palo Alto Networks han documentado un caso en el que se convierte en una trampa real gracias a la creatividad de los estafadores.

Así funciona. Cuando pides un enlace a un chatbot, «¿dónde inicio sesión en el programa de recompensas de mi banco?», de vez en cuando se inventa una dirección web que parece completamente plausible, pero no existe. El descubrimiento clave de los investigadores es que los modelos no inventan al azar. Si haces suficientes veces el mismo tipo de pregunta, siguen apareciendo las mismas direcciones ficticias. Una dirección inventada a la que se enviará con seguridad a miles de personas vale dinero. Los estafadores pueden limitarse a registrarla, normalmente por unos pocos dólares, y crear allí una página falsa para iniciar sesión. Después, la IA les hace publicidad, respuesta útil tras respuesta útil. Los investigadores llaman a esta técnica «ocupación fantasma».

Las cifras dan una idea de la escala. El equipo realizó unas 685.000 solicitudes de enlaces relacionadas con 913 marcas conocidas y recopiló 2,1 millones de direcciones web generadas por IA. Cerca de 13.000 ya conducían a sitios maliciosos confirmados. Más inquietante aún: unas 250.000 direcciones inventadas de forma sistemática seguían sin registrar, terreno libre para futuras estafas. En un caso documentado, los investigadores observaron que los modelos seguían inventando una dirección concreta que se parecía a la tienda de un servicio postal nacional. Veintitrés días después, alguien registró exactamente esa dirección e instaló un sistema de suplantación que recopilaba números de tarjetas y credenciales bancarias.

Lo inusual de este ataque es lo que no necesita: ningún correo fraudulento, ningún anuncio sospechoso ni ningún truco ortográfico como «arnazon.com». La víctima hace una pregunta sincera a una IA, recibe una respuesta segura y pulsa el enlace. Toda la superficie de ataque es la confianza que depositamos en las respuestas de la IA. Para valorar justamente su alcance, la mayoría de esas 250.000 direcciones nunca se utilizará como arma. La técnica resulta rentable sobre todo para imitar bancos, servicios sanitarios y sitios oficiales, donde una falsificación convincente puede generar muchos beneficios.

Qué significa esto para ti: Un solo hábito te protege: trata los enlaces de los chatbots de IA como las indicaciones de un desconocido amable; probablemente sean correctas, pero merece la pena comprobarlas. Cuando haya dinero o contraseñas en juego, no pulses el enlace. Accede al sitio de la forma que ya conoces, tu marcador, la aplicación oficial o escribiendo tú mismo la dirección principal. Si un chatbot te proporciona un enlace para iniciar sesión, ese es precisamente el momento de sospechar: los servicios reales rara vez necesitan que una IA te indique dónde está su puerta principal.

Fuentes

• Palo Alto Networks Unit 42: «Phantom Squatting», dominios alucinados por IA como vector en la cadena de suministro de software
• The Hacker News: la «ocupación fantasma» utiliza dominios alucinados por IA para suplantación y programas maliciosos
• Dark Reading: «Phantom Squatting», una amenaza emergente para la cadena de suministro impulsada por IA