Possiamo fidarci della matematica di tutti i controlli? Un matematico invita alla cautela

I matematici stanno iniziando ad affidarsi all’intelligenza artificiale per trasformare le dimostrazioni in una forma controllabile dal computer. Un guest post di Thomas Hales sul blog di Terence Tao, pubblicato il 9 ottobre, pone una domanda poco affascinante ma importante: quanto siamo sicuri che la pedina stessa abbia ragione?

L’idea in termini semplici

Viene scritta una prova formale in modo che il software possa verificare ogni passaggio, fino alla logica di base. Lean, lo strumento più popolare tra i matematici, esegue il controllo finale in un piccolo programma centrale chiamato kernel, lungo poche migliaia di righe. La sua libreria condivisa, mathlib, contiene quasi 300.000 teoremi. Hales afferma che l‘“autoformalizzazione” dell’intelligenza artificiale, in cui un modello trasforma un documento in una dimostrazione formale, è diventata pratica nel 2026. La sua regola è semplice: non credere a una dimostrazione finché il kernel non l’accetta e verificare umanamente che le definizioni dicano ciò che intendono dire. Questo secondo controllo è solitamente molto più semplice del controllo della dimostrazione stessa.

La preoccupazione sono gli insetti. Un “bug di solidità” consente a un sistema di dimostrare qualcosa di falso, il che vanifica l’intero punto. Hales afferma che Lean ne ha avuti diversi nel 2026, che chiama “L’estate di Soundness Bugs”. Qualcuno ha addirittura prodotto una falsa confutazione della famosa congettura Collatz. La maggior parte è stata trovata da strumenti di intelligenza artificiale nelle mani di ricercatori di sicurezza e tutti sono stati riparati.

Cosa c’è dietro tutto questo?

Perché questo è importante al di là della matematica? Questa settimana OpenAI ha pubblicato centinaia di articoli scritti dall’intelligenza artificiale e solo circa un quinto ha un risultato principale controllato dal Lean. Il controllo formale è la migliore risposta alla domanda “l’intelligenza artificiale lo ha davvero dimostrato?”, quindi la sua affidabilità è molto importante. Hales descrive tre misure di salvaguardia: utilizzo di molti kernel indipendenti (ne esistono circa 25) per controlli incrociati, verifica formale del kernel stesso e miglioramento della teoria sottostante. Nota che alcuni fondamenti rimangono non dimostrati e non esiste ancora una prova pubblica completa di coerenza della teoria dei tipi Lean. Prende in prestito anche un avvertimento dalla storia dell’informatica: un’intelligenza artificiale potrebbe in linea di principio nascondere un difetto che gli esseri umani non colgono, e potrebbe diffondersi in software verificato che protegge i sistemi critici. Il lavoro fondamentale affidato all’intelligenza artificiale, dice, è “pericoloso” a meno che non venga attentamente controllato dalle persone.

Che cosa significa per te: Per la maggior parte delle persone non cambia nulla e va bene. La conclusione è un’abitudine che vale la pena mantenere per qualsiasi output dell’intelligenza artificiale: un controllore è valido tanto quanto la cosa che lo controlla, e la domanda “chi ha verificato il verificatore?” è sano. Se segui i titoli di AI for science, controlla se un’affermazione è formalmente verificata, riprodotta in modo indipendente o semplicemente annunciata. Se utilizzi l’intelligenza artificiale per il codice o l’analisi, si applica la stessa logica: esegui i test e leggi le parti che definiscono cosa significa “corretto”.

Fonti

• Thomas Hales sul blog di Terence Tao
• Decifra i 722 manoscritti di matematica di OpenAI