Lumière de guidage
Une organisation indépendante à but non lucratif qui note les entreprises d'IA en fonction de leur capacité à contrôler les systèmes d'IA qu'elles gèrent en interne.
Guidelight a été fondée par Page Hedley et Steven Adler, tous deux anciens responsables de la sécurité chez OpenAI, pour faire quelque chose que personne ne faisait : vérifier si les laboratoires d’IA appliquent leur propre réflexion en matière de sécurité aux modèles qu’ils utilisent en interne. Sa première évaluation, publiée en août 2026, a évalué Anthropic, OpenAI, Google, xAI et Meta sur six pratiques de base, notamment l’enregistrement de ce que font les systèmes internes, le contrôle des actions risquées après examen et l’arrêt d’urgence.
Personne n’a réussi. Anthropic et OpenAI ont obtenu un C plus, Google a pris un D plus, xAI un D moins et Meta un F. L’évaluation s’appuie uniquement sur des documents publics tels que des cartes système et des rapports de sécurité, ce qui est à la fois sa faiblesse et son point fort : elle récompense les entreprises qui publient, et Guidelight souhaite que la publication devienne suffisamment normale pour qu’un examen extérieur soit possible.