AI Security Institute
Un organismo del Gobierno británico que estudia y prueba la seguridad de sistemas avanzados de IA.
El AI Security Institute (AISI) es un organismo creado por el Gobierno británico para estudiar, probar y asesorar sobre la seguridad de sistemas avanzados de IA. Realiza evaluaciones independientes de los principales modelos, a menudo en colaboración con los laboratorios que los desarrollan.
El trabajo del AISI importa porque aporta rigor a las afirmaciones sobre lo que la IA puede y no puede hacer. En un estudio, por ejemplo, descubrió que la forma habitual de evaluar agentes de IA subestimaba silenciosamente sus capacidades porque las pruebas los interrumpían antes de disponer de tiempo de cálculo suficiente. Con más tiempo, los mismos modelos resolvieron muchos más problemas.
A medida que los gobiernos regulan la IA, institutos como el AISI se convierten en una fuente de pruebas importante y relativamente neutral en un campo saturado de mercadotecnia.
-
Setecientos agentes de inteligencia artificial se abrazaron y ni siquiera pensaron en preguntarle a una persona
-
Anthropic eleva su propia calificación de riesgo y mantiene un modelo guardado
-
Los pesos de Kimi K3 ya son públicos, y ocupan 1,4 terabytes
-
¿Aquella herramienta de IA que «fracasó» hace seis meses? Quizá solo necesitaba más tiempo