SaferAI
Una organización sin ánimo de lucro que evalúa de forma independiente capacidades peligrosas de los modelos de IA y puntúa la gestión de riesgos de los laboratorios.
SaferAI es una organización sin ánimo de lucro que prueba modelos de IA desde fuera. En vez de aceptar la versión del laboratorio sobre la seguridad de su modelo, realiza evaluaciones propias, a menudo mediante la API pública, y publica los resultados. También califica las prácticas de gestión de riesgos de las empresas de IA, lo que la ha convertido en una presencia habitual y no siempre bienvenida en las noticias del sector.
Su evaluación de 2026 del modelo de pesos abiertos GLM-5.2 mostró por qué importan las pruebas independientes. El modelo no rechazó ninguna de las tareas ofensivas de ciberseguridad o biología que recibió. Un modelo cerrado comparable se negó con tanta constancia que la prueba no pudo terminarse. El director ejecutivo Henry Papadatos resumió la idea así: «la frontera de la capacidad no es la frontera del riesgo».