Empezar con la IA, parte 4: cuando se equivoca y la comprobación de 30 segundos

Pide a un asistente una recomendación de lectura y puede inventar un título inexistente, acompañado de un autor creíble y un cálido resumen. Es el conocido problema de las alucinaciones. Comprenderlo bien marca la diferencia entre utilizar la IA con nerviosismo y hacerlo con criterio.

La parte tranquilizadora es que las alucinaciones resultan previsibles. Se concentran en lugares concretos y un pequeño hábito permite detectar casi todas.

Por qué una máquina inventa cosas

Un modelo de lenguaje responde prediciendo, palabra a palabra, qué aspecto tendría una buena contestación. Ese es todo el mecanismo. Cuando conoce bien un tema, predicción y verdad encajan. Cuando no, la maquinaria continúa produciendo un texto fluido y seguro, rellenando los huecos con lo que parece estadísticamente plausible.

Los investigadores añaden otra razón. Tradicionalmente, el entrenamiento y las evaluaciones han premiado una conjetura convincente frente a un sincero «no estoy seguro». Un modelo que reconoce su duda obtiene peor nota en las pruebas que otro que finge saber; por tanto, el entrenamiento ha fomentado discretamente el fingimiento. La generación más reciente expresa mejor la incertidumbre, aunque la tendencia no ha desaparecido.

Una alucinación no es un fallo. Es la fluidez adelantándose al conocimiento, expresada con la misma seguridad que una respuesta correcta.

Esa voz es precisamente lo que desconcierta a quien empieza. Las respuestas equivocadas no tienen un aspecto distinto: no hay dudas ni señales de alarma, solo el mismo tono amable.

Dónde aparecen las alucinaciones

No se reparten por igual. Espéralas en los límites del conocimiento: cifras concretas, fechas, precios y estadísticas; nombres de personas, estudios, casos judiciales y libros; asuntos recientes cuando el asistente no ha buscado realmente en internet; temas especializados sobre los que hay poco escrito; enlaces y citas que parecen perfectos y no llevan a ninguna parte.

En las tareas anteriores de esta serie aparecen muy pocas: reescribir un correo, explicar un concepto o planificar la semana. Por eso son adecuadas para empezar. El riesgo vive casi por completo en «búscame un dato», no en «ayúdame a pensar».

La comprobación de 30 segundos

Ante cualquier dato importante, sigue esta breve rutina. Primero pregúntate si un error tendría algún coste. Con un menú puedes relajarte. Si el asunto es médico, jurídico, financiero o va a publicarse, continúa. Segundo, verifica con una búsqueda rápida el dato que sostiene la respuesta, esa cifra o nombre imprescindible. Tercero, pregunta al propio asistente: «¿Qué seguridad tienes? ¿Qué debería comprobar?» Los modelos de 2026 se muestran bastante sinceros cuando se les pregunta directamente.

Treinta segundos. No para todo, solo para los datos que soportan peso. En una semana se vuelve automático.

Qué hacen las herramientas para ayudar

Los asistentes siguen evolucionando. La mayoría ya puede buscar en internet antes de responder a preguntas recientes y los buenos muestran sus fuentes. Las nuevas normas europeas sobre IA empujan a los proveedores a explicar mejor sus límites. La investigación sobre interpretabilidad, como el trabajo de Anthropic para leer la «memoria de trabajo» interna de un modelo, permite poco a poco ver qué sabe de verdad y qué se limita a afirmar.

Hasta entonces, el acuerdo es sencillo: la IA aporta velocidad y amplitud; tú, el criterio. Así llegamos a la última parte de la serie y a tu mayor palanca: lo que proporcionas antes de que la IA responda.