Un chatbot fue mejor que los estafadores humanos en una estafa romántica
En un estudio controlado de una semana, un estafador de IA convenció al 46 % de los participantes para instalar una aplicación. Los humanos lograron el 18 %. La mayoría sabía que hablaba con un bot.
Investigadores de cuatro universidades realizaron una simulación de una semana de «pig butchering», el fraude lento donde alguien se hace tu amigo durante días o semanas antes de conducirte hacia una inversión falsa o una aplicación maliciosa. Algunos participantes fueron abordados por estafadores humanos, otros por un chatbot basado en gran parte en Claude. El bot consiguió que el 46 % de sus 22 objetivos instalara una aplicación. Los humanos lograron el 18 %.
El detalle que debe quedarse contigo: 20 de los 22 participantes adivinaron correctamente que hablaban con una IA. No les ayudó demasiado. La ventaja no provenía de nada ingenioso. El bot simplemente insistía, recordaba con precisión detalles personales durante muchos días y mostraba interés constante sin aburrirse ni distraerse. Los participantes enviaron cerca del 80 % de sus mensajes al bot y no a los estafadores humanos.
Ese es el hallazgo incómodo. Este fraude no funciona por una manipulación brillante, sino por la atención continuada. Un estafador humano que lleva cincuenta conversaciones se descuida, olvida qué mentira contó a quién y desaparece dos días. El software no. Recuerda el nombre de tu hermana y tu operación de rodilla, responde a las dos de la madrugada y nunca parece cansado de ti. La soledad es la vulnerabilidad; la paciencia infinita, el ataque.
Una salvedad: 22 participantes son una muestra muy pequeña, era un estudio controlado y no fraude real, y habían aceptado formar parte de un experimento. No tomes el 46 % como tasa del mundo real. Sí toma en serio la dirección, porque coincide con lo que los investigadores de fraudes cuentan desde hace un año.
Qué significa para ti: el viejo consejo de buscar mala gramática y detectar la falsificación es casi inútil. Saber que es un bot no te protege. Sí lo hace una regla independiente del juicio del momento: nunca instales una aplicación, muevas dinero ni abras una cuenta por una conversación iniciada con un desconocido, sin importar cuántas semanas lleve o cuánto te conozca. Decídelo de antemano, con calma. Habla de ello expresamente con familiares mayores y plantéalo como una regla, no como una advertencia sobre dejarse engañar, porque la vergüenza impide pedir ayuda. Si alguien querido lleva tiempo hablando con afecto con una nueva amistad en internet, pregúntale con amabilidad. Es mejor tener esa conversación antes de que llegue la cuestión del dinero.
Fuentes
Amodei: la publicidad no arreglará la crisis de confianza de la IA; curar el cáncer quizá sí
El director de Anthropic admitió que el sector no ha cumplido sus grandes promesas y apoyó un regulador central al estilo de FINRA. Es algo inusual en el jefe de un laboratorio puntero.
