AI Security Institute

L’AI Security Institute (AISI) est un organisme créé par le gouvernement britannique pour étudier, tester et conseiller sur la sécurité des systèmes d’IA avancés. Il réalise des évaluations indépendantes des principaux modèles, souvent en coopération avec les laboratoires qui les construisent.

Son travail compte parce qu’il apporte de la rigueur aux affirmations sur ce que l’IA peut ou ne peut pas faire. Une étude a par exemple montré que la méthode habituelle d’évaluation des agents IA sous-estimait discrètement leurs capacités : les tests les arrêtaient avant qu’ils disposent d’assez de temps de calcul pour terminer. Avec davantage de temps, les mêmes modèles résolvaient bien plus de tâches.

Alors que les gouvernements commencent à encadrer l’IA, des instituts comme l’AISI deviennent une source importante et relativement neutre de preuves dans un secteur saturé de marketing.