Microsoft ajoute un frein de sécurité pour les agents IA de l'entreprise : coupez leur accès, demandez à un humain ou éteignez-les
Microsoft a présenté en avant-première des outils qui évaluent le risque de chaque agent IA et peuvent le limiter, exiger une approbation ou l'arrêter. Toujours en avant-première privée, avec un lancement plus large prévu pour Ignite.
Selon GeekWire du 19 octobre, Microsoft a annoncé de nouveaux contrôles pour les agents IA qui s’exécutent au sein des entreprises. Les fonctionnalités arrivent dans Microsoft 365 E7, son offre groupée professionnelle supérieure, et dans Project Perception, son système de sécurité IA. Ils conservent un score de risque courant pour chaque agent, sur la base de signaux tels que les données qu’il peut atteindre et si ses actions s’éloignent de la tâche qui lui est assignée.
Lorsque le score augmente, les administrateurs disposent de trois leviers. Ils peuvent priver un agent de sa capacité à apporter des modifications tout en lui permettant de lire des informations. Ils peuvent exiger qu’une personne approuve une démarche à enjeux élevés. Ou ils peuvent arrêter l’agent. Une autre fonctionnalité trouve les agents exécutés sur les ordinateurs des employés, et la liste des types d’agents détectables passe de 25 à 60, y compris le Claude Code d’Anthropic, le Codex d’OpenAI et GitHub Copilot. Le système s’appuie également sur les « agents gardiens », des assistants d’IA annoncés en juillet, qui enquêtent sur les raisons pour lesquelles le risque d’un autre agent a changé et recommandent ou prennent des mesures pour le contenir.
Les petits caractères : les nouvelles fonctionnalités sont en avant-première privée, avec une disponibilité plus large prévue pour la conférence Ignite de Microsoft du 17 au 19 novembre. E7 a été lancé en mai à 99 $ par utilisateur et par mois, et aucun prix distinct n’a été indiqué pour ces ajouts. Le rapport n’explique pas comment les scores de risque sont calculés ni quels seuils déclenchent quelle réponse, de sorte que les performances réelles n’ont pas été prouvées.
Qu’est-ce qu’il y a derrière : un “agent IA” est un assistant qui ne se contente pas de répondre aux questions, mais qui entreprend des actions, comme envoyer des e-mails, modifier des fichiers ou appeler d’autres logiciels. C’est utile, et c’est aussi la raison pour laquelle les entreprises deviennent nerveuses : un agent confus ou détourné disposant d’un large accès peut rapidement causer de réels dégâts. Pensez-y comme si vous donniez un passe-partout à un nouveau stagiaire. Vous voudriez surveiller ce qu’ils ouvrent, restreindre ce qu’ils peuvent modifier et avoir un moyen de récupérer la clé. L’argument de Microsoft, faisant écho à un récent article de blog de CEO Satya Nadella, est que les commandes doivent être situées à l’extérieur des modèles eux-mêmes. Une question légitime, soulevée par les commentateurs, est de savoir qui vérifie le vérificateur lorsqu’une entreprise fournit à la fois les agents et le guardrails.
Ce que cela signifie pour vous : si vous utilisez l’IA uniquement pour des tâches personnelles, ceci est une nouvelle de fond. Si vous êtes responsable de l’IA dans une équipe ou une entreprise, c’est une bonne idée de poser une question simple : quels agents existent ici, que peuvent chacun atteindre et qui peut les désactiver ? Vous pouvez répondre à cette question aujourd’hui, avec ou sans les outils de Microsoft.
Sources
Sources: https://www.geekwire.com/2026/microsoft-unveils-tools-to-monitor-and-corral-rogue-ai-agents/
Les gens demandent aux agents IA de rendre à nouveau stupides leurs téléviseurs intelligents
Les propriétaires utilisent des agents de codage pour supprimer les publicités, les trackers et les ballonnements des téléviseurs Android et Fire. Cela fonctionne pour beaucoup, mais cela peut également briquer un téléviseur, alors soyez prudent.
