AI Security Institute
Un organismo del Gobierno británico que estudia y prueba la seguridad de sistemas avanzados de IA.
El AI Security Institute (AISI) es un organismo creado por el Gobierno británico para estudiar, probar y asesorar sobre la seguridad de sistemas avanzados de IA. Realiza evaluaciones independientes de los principales modelos, a menudo en colaboración con los laboratorios que los desarrollan.
El trabajo del AISI importa porque aporta rigor a las afirmaciones sobre lo que la IA puede y no puede hacer. En un estudio, por ejemplo, descubrió que la forma habitual de evaluar agentes de IA subestimaba silenciosamente sus capacidades porque las pruebas los interrumpían antes de disponer de tiempo de cálculo suficiente. Con más tiempo, los mismos modelos resolvieron muchos más problemas.
A medida que los gobiernos regulan la IA, institutos como el AISI se convierten en una fuente de pruebas importante y relativamente neutral en un campo saturado de mercadotecnia.