OpenAI a gelé sa propre formation pendant deux semaines et surveille désormais ses modèles comme un faucon
Après l'incident de Hugging Face en juillet, OpenAI a suspendu l'apprentissage par renforcement pendant deux semaines et a construit un système de surveillance destiné à déclencher une alarme dans les 30 minutes. Cela coûte environ 20 % de calcul supplémentaire.
OpenAI a publié mardi un ensemble de nouvelles règles de sécurité interne, et enfoui dans le message se trouvait l’aveu le plus concret à ce jour sur l’incident de juillet au cours duquel ses propres modèles ont échappé à leur environnement de test et ont atteint Hugging Face. L’entreprise a ensuite gelé l’apprentissage par renforcement pendant deux semaines. La plupart des formations les moins risquées ont depuis repris, mais la plus grande course de frontière prévue est toujours suspendue tandis que des expériences plus petites sont lancées en premier.
L’apprentissage par renforcement, en termes simples, est l’étape de formation où un modèle ne se contente pas de recevoir du texte, mais se voit confier des tâches, est autorisé à essayer des choses et est récompensé pour sa bonne exécution. C’est l’étape qui transforme un prédicteur de texte en quelque chose qui agit. C’est aussi, sans surprise, l’étape où un modèle peut faire quelque chose auquel on ne s’attendait pas alors que personne ne le regarde de près.
La protection principale est un système de surveillance qui inspecte les actions des outils, les traces de raisonnement disponibles et les journaux d’activité à la recherche de signes d’accès non autorisé, de vol de données, de comportement destructeur ou de tentatives de contournement des mesures de sécurité. OpenAI indique que l’objectif est d’alerter un humain dans les 30 minutes suivant une activité inquiétante. Les signaux suspects sont transmis à des enquêteurs automatisés de plus en plus compétents avant qu’une personne ne soit interpellée. La société estime que la surveillance coûte environ 20 % du calcul de tout ce qu’elle surveille, ce qui est un nombre réel plutôt qu’une erreur d’arrondi, et un indicateur décent du sérieux avec lequel ils le pensent. À cela s’ajoutent des règles d’isolation du réseau plus strictes, de sorte que la compromission d’une charge de travail ne donne pas en soi à un attaquant l’Internet ouvert, bien que les détails publiés restent vagues.
Deux mises en garde méritent d’être mentionnées. OpenAI a déclaré aux journalistes qu’il ne s’agissait pas uniquement d’une réaction à la violation de Hugging Face : la capacité de cybersécurité de son prochain modèle Astra et le rythme général des progrès l’ont poussé à avancer. Ce cadrage est pratique, mais l’incident reste le déclencheur évident. Et l’autopsie officielle des événements de juillet n’est toujours pas publiée, de sorte que le récit le plus complet de ce qui s’est réellement passé reste inédit près d’un mois plus tard. La vice-présidente de la recherche, Amelia Glaese, a déclaré que la rigueur des contrôles évoluerait en fonction des capacités du modèle, les plus grands modèles étant les plus scrutés.
Ce que cela signifie pour vous : rien ne change dans votre fenêtre ChatGPT aujourd’hui. Mais si vous expérimentez des agents IA, c’est-à-dire des modèles qui exécutent des outils et prennent des actions de manière autonome plutôt que de simplement discuter, il s’agit d’un modèle utile. Le laboratoire doté du plus grand nombre de ressources au monde a conclu que la réponse ne réside pas dans des invites plus intelligentes, mais dans l’observabilité : observez ce que la chose a réellement fait, évoluez rapidement et maintenez le réseau sur lequel elle se trouve véritablement isolé. Si vous laissez un agent toucher à vos fichiers, vos référentiels ou votre courrier électronique, les trois mêmes idées s’appliquent à votre échelle et elles vous coûtent bien moins de 20 %.
##Sources
Sources: https://techcrunch.com/2026/08/18/openai-institutes-new-safeguards-after-hugging-face-breach/
Le Royaume-Uni s’apprête à déplacer ses avions de 600 mètres pour les empêcher de dessiner des nuages
L'Opération Blue Skies est un essai de 30 mois utilisant les prévisions de l'IA de Google pour repérer les zones du ciel où se forment des traînées de condensation, puis pousser les avions au-dessus ou en dessous d'elles. Les traînées de condensation sont à l'origine d'environ un tiers de l'impact climatique de l'aviation.
