Nessuno è passato: la prima pagella su come i laboratori di intelligenza artificiale controllano i propri sistemi

Un’organizzazione no-profit chiamata Guidelight ha pubblicato la sua prima valutazione su come le società di intelligenza artificiale controllano i sistemi di intelligenza artificiale che gestiscono internamente, e la conclusione principale è schietta: nessuna di loro applica completamente nemmeno le misure di base. Anthropic e OpenAI guidano con un C plus. Google segue con una D plus, insieme a una tabella di marcia dettagliata per il miglioramento. xAI ottiene un D meno e Meta una F.

Guidelight ha controllato sei pratiche e l’elenco è meno esotico di quanto potresti aspettarti. L’azienda registra ciò che stanno facendo i suoi sistemi di intelligenza artificiale interni? Le azioni rischiose sono limitate da una fase di revisione? Esiste un arresto di emergenza, noto nel settore come interruzione del circuito? Esiste un piano per contenere un modello che si rivela disallineato, cioè che persegue obiettivi diversi da quelli previsti? Il modello in tutte e cinque le aziende era coerente: sono i migliori a notare quando qualcosa è andato storto, e i peggiori a prevenirlo o contenerlo in seguito. Guidelight è stata fondata da due ex responsabili della sicurezza di OpenAI, Page Hedley e Steven Adler, e ha attinto solo a materiale pubblico come schede di sistema, rapporti sulla sicurezza e post di blog.

Quest’ultimo dettaglio va in entrambe le direzioni, ed è il giusto avvertimento qui. Valutare un’azienda in base a ciò che ha scelto di pubblicare premia la trasparenza piuttosto che l’effettiva sicurezza. Un laboratorio con forti controlli interni e l’abitudine di non dire nulla otterrebbe un punteggio negativo, mentre un laboratorio che scrive lunghi post sul blog sul suo processo otterrebbe un punteggio buono. Guidelight è sincero al riguardo, ed è probabilmente questo il punto: il gruppo vuole che la documentazione pubblica diventi la norma proprio in modo che la valutazione esterna diventi possibile. Il motivo per cui tutto ciò è importante ora è che i laboratori eseguono sempre più i loro modelli più capaci su se stessi. Anthropic ha affermato che Claude scrive la maggior parte del codice nei suoi sistemi di produzione, a volte tramite agenti che funzionano continuamente senza che un essere umano guardi ogni passaggio. L’azienda che si è classificata migliore ha comunque ottenuto solo un C plus.

Che cosa significa per te: per la maggior parte delle persone, questa settimana non cambia nulla. Il valore di un report come questo è quello di un quadro di valutazione che puoi controllare nuovamente tra sei mesi, che è esattamente ciò che intende Guidelight. Se stai scegliendo un fornitore di intelligenza artificiale per lavoro, i sei criteri sono una lista di controllo ragionevole da sottoporre a un fornitore e la risposta onesta a “puoi mostrarmi i tuoi controlli interni” ti dice molto. E se seguite il dibattito sulla sicurezza, notate la forma della scoperta: il rilevamento è la parte facile, la prevenzione e il contenimento sono le parti difficili, e questo vale anche per la sicurezza IT aziendale ordinaria.

Fonti

• Valutazione del controllo agosto 2026, Guidelight
• I laboratori di intelligenza artificiale non riescono a tenere sotto controllo i propri sistemi, The Decoder