AI Security Institute
Un ente del governo britannico che studia e verifica la sicurezza dei sistemi di IA avanzati.
L’AI Security Institute (AISI) è un ente istituito dal governo britannico per studiare, verificare e fornire consulenza sulla sicurezza dei sistemi di IA avanzati. Svolge valutazioni indipendenti dei principali modelli, spesso in collaborazione con i laboratori che li sviluppano.
Il lavoro dell’AISI è importante perché dà rigore alle affermazioni su ciò che l’IA può o non può fare. In uno studio, per esempio, ha scoperto che il metodo standard per testare gli agenti IA ne sottovalutava silenziosamente le capacità, perché le prove venivano interrotte prima che gli agenti disponessero di tempo di calcolo sufficiente per concludere. Con più tempo, gli stessi modelli risolvevano molti più problemi.
Mentre i governi iniziano a regolamentare l’IA, istituti come l’AISI stanno diventando una fonte di prove importante e relativamente neutrale in un settore affollato di marketing.