Alucinación

Una alucinación ocurre cuando un modelo produce información falsa o inventada, pero la presenta con la misma seguridad que una respuesta correcta. Como un gran modelo lingüístico genera texto verosímil en vez de consultar hechos, puede inventar citas, estadísticas o direcciones web inexistentes.

No es un fallo raro, sino una característica incorporada al funcionamiento de estos modelos, con consecuencias reales. Unos atacantes observaron que las herramientas inventaban repetidamente las mismas direcciones; las registraron y crearon sitios maliciosos a la espera de usuarios.

La defensa práctica es sencilla: verificar hechos, cifras, enlaces y citas antes de confiar en ellos. El resultado de una IA es un borrador seguro de sí mismo, no una fuente definitiva.