Pouvons-nous faire confiance aux mathématiques vérifiées ? Un mathématicien appelle à la prudence
Dans un article invité sur le blog de Terence Tao, Thomas Hales explique comment fonctionne le vérificateur de preuves Lean, pourquoi 2026 a apporté plusieurs bugs sérieux et pourquoi les humains doivent toujours auditer les preuves formelles créées par l'IA.
Les mathématiciens commencent à s’appuyer sur l’IA pour transformer les preuves en une forme vérifiable par un ordinateur. Un article invité de Thomas Hales sur le blog de Terence Tao, publié le 9 octobre, pose la question peu glamour mais importante : dans quelle mesure sommes-nous sûrs que le vérificateur lui-même a raison ?
L’idée en termes simples
Une preuve formelle est écrite afin que le logiciel puisse vérifier chaque étape, jusqu’à la logique de base. Lean, l’outil le plus populaire parmi les mathématiciens, effectue la vérification finale dans un petit programme de base appelé noyau, long de quelques milliers de lignes. Sa bibliothèque partagée, mathlib, contient près de 300 000 théorèmes. Selon Hales, « l’autoformalisation » de l’IA, où un modèle transforme un article en preuve formelle, est devenue pratique en 2026. Sa règle est simple : ne croyez pas une preuve tant que le noyau ne l’accepte pas, et demandez à un humain de vérifier que les définitions disent ce qu’elles sont censées dire. Cette deuxième vérification est généralement beaucoup plus facile que la vérification de la preuve elle-même.
Le souci, ce sont les bugs. Un « bug de solidité » permet à un système de prouver quelque chose de faux, ce qui va à l’encontre de l’essentiel. Hales dit que Lean en a eu plusieurs en 2026, qu’il appelle « l’été du Soundness Bugs ». On a même produit une fausse réfutation de la célèbre conjecture Collatz. La plupart ont été découverts par des outils d’IA entre les mains de chercheurs en sécurité, et tous ont été réparés.
Qu’est-ce qu’il y a derrière ça
Pourquoi est-ce important au-delà des mathématiques ? Cette semaine, OpenAI a publié des centaines d’articles rédigés sur l’IA, et seulement un cinquième environ ont un résultat principal vérifié par Lean. La vérification formelle est la meilleure réponse à la question « l’IA l’a-t-elle vraiment prouvé ? », sa fiabilité est donc très importante. Hales décrit trois garanties : utiliser de nombreux noyaux indépendants (il en existe environ 25) pour effectuer des vérifications croisées, vérifier formellement le noyau lui-même et améliorer la théorie sous-jacente. Il note que certains fondements restent à prouver et qu’il n’existe pas encore de preuve publique complète de cohérence de la théorie des types de Lean. Il emprunte également un avertissement à l’histoire de l’informatique : une IA pourrait en principe cacher une faille qui échappe aux humains, et elle pourrait se propager dans des logiciels vérifiés qui protègent les systèmes critiques. Le travail de base confié à l’IA, dit-il, est « dangereux » à moins qu’il ne soit soigneusement audité par des personnes.
Ce que cela signifie pour vous : Pour la plupart des gens, rien ne change, et c’est très bien. Ce qu’il faut retenir est une habitude qui mérite d’être conservée pour toute sortie d’IA : un vérificateur est aussi bon que la chose qui le vérifie, et la question « qui a vérifié le vérificateur ? est sain. Si vous suivez les gros titres de l’IA pour la science, vérifiez si une affirmation est formellement vérifiée, reproduite de manière indépendante ou simplement annoncée. Si vous utilisez l’IA pour le code ou l’analyse, la même logique s’applique : exécutez les tests et lisez les parties qui définissent ce que « correct » signifie.
Sources
ChatGPT répond désormais avec des boutons, des graphiques et des mini-applications
OpenAI propose GPT-6 avec Intelligent UI à tout le monde, y compris aux utilisateurs gratuits. Au lieu du simple texte, ChatGPT peut désormais créer des outils, des graphiques et des formulaires exploitables au sein de la conversation.
