¿Podemos confiar en las matemáticas comprobadas por I? Un matemático pide precaución
En una publicación invitada en el blog de Terence Tao, Thomas Hales explica cómo funciona el verificador de pruebas Lean, por qué 2026 trajo varios errores graves y por qué los humanos aún deben auditar las pruebas formales realizadas por IA.
Los matemáticos están empezando a recurrir a la IA para convertir las pruebas en una forma que una computadora pueda verificar. Una publicación invitada de Thomas Hales en el blog de Terence Tao, publicada el 9 de octubre, plantea una pregunta poco glamorosa pero importante: ¿qué tan seguros estamos de que el verificador en sí tiene razón?
La idea en términos sencillos
Se escribe una prueba formal para que el software pueda verificar cada paso, hasta la lógica básica. Lean, la herramienta de este tipo más popular entre los matemáticos, realiza la comprobación final en un pequeño programa central llamado núcleo, de unos pocos miles de líneas de longitud. Su biblioteca compartida, mathlib, contiene casi 300.000 teoremas. Hales dice que la “autoformalización” de la IA, donde un modelo convierte un documento en una prueba formal, se volvió práctica en 2026. Su regla es simple: no creer en una prueba hasta que el núcleo la acepte, y hacer que un humano verifique que las definiciones dicen lo que deben decir. Esa segunda verificación suele ser mucho más fácil que verificar la prueba misma.
La preocupación son los errores. Un “error de solidez” permite que un sistema demuestre algo falso, lo que echa por tierra todo el objetivo. Hales dice que Lean tuvo varios en 2026, lo que él llama el “Verano de Soundness Bugs”. Uno incluso produjo una falsa refutación de la famosa conjetura Collatz. La mayoría fueron encontradas mediante herramientas de inteligencia artificial en manos de investigadores de seguridad, y todas fueron reparadas.
¿Qué hay detrás de esto?
¿Por qué esto importa más allá de las matemáticas? Esta semana, OpenAI publicó cientos de artículos escritos por IA, y solo alrededor de una quinta parte tiene un resultado principal verificado mediante Lean. La verificación formal es la mejor respuesta a la pregunta “¿realmente lo demostró la IA?”, por lo que su confiabilidad es muy importante. Hales describe tres salvaguardas: usar muchos núcleos independientes (existen alrededor de 25) para realizar comprobaciones cruzadas, verificar formalmente el núcleo en sí y mejorar la teoría subyacente. Señala que algunos fundamentos aún no han sido probados y todavía no existe una prueba pública completa de consistencia de la teoría de tipos de Lean. También toma prestada una advertencia de la historia de la informática: en principio, una IA podría ocultar un defecto que los humanos pasan por alto y podría extenderse al software verificado que protege los sistemas críticos. El trabajo fundamental confiado a la IA, afirma, es “peligroso” a menos que la gente lo audite cuidadosamente.
Qué significa esto para ti: Para la mayoría de las personas, nada cambia, y eso está bien. La conclusión es un hábito que vale la pena mantener para cualquier resultado de IA: un verificador es tan bueno como lo que lo verifica, y la pregunta “¿quién verificó al verificador?” es saludable. Si sigue los titulares sobre IA para la ciencia, busque si una afirmación se verifica formalmente, se reproduce de forma independiente o simplemente se anuncia. Si utiliza IA para código o análisis, se aplica la misma lógica: ejecute las pruebas y lea las partes que definen lo que significa “correcto”.
Fuentes
ChatGPT ahora responde con botones, gráficos y miniaplicaciones
OpenAI está lanzando GPT-6 con Intelligent UI para todos, incluidos los usuarios gratuitos. En lugar de solo texto, ChatGPT ahora puede crear herramientas, gráficos y formularios que se pueden tocar dentro de la conversación.
