Microsoft añade un freno de seguridad para los agentes de IA de la empresa: corta su acceso, pregunta a un humano o apágalos
Microsoft presentó una vista previa de las herramientas que califican el riesgo de cada agente de IA y pueden limitarlo, requerir aprobación o cerrarlo. Aún en vista previa privada, con un lanzamiento más amplio planificado para Ignite.
Microsoft ha anunciado nuevos controles para los agentes de IA que se ejecutan dentro de las empresas, según GeekWire del 19 de octubre. Las características llegan en Microsoft 365 E7, su paquete comercial principal, y en Project Perception, su sistema de seguridad de IA. Mantienen una puntuación de riesgo actual para cada agente, basada en señales como qué datos puede alcanzar y si sus acciones se están desviando de su trabajo asignado.
Cuando la puntuación aumenta, los administradores tienen tres palancas. Pueden quitarle a un agente la capacidad de realizar cambios y al mismo tiempo permitirle leer información. Pueden exigir que una persona apruebe un paso de alto riesgo. O pueden cerrar al agente. Otra característica encuentra agentes que se ejecutan en las propias computadoras de los empleados, y la lista de tipos de agentes detectables crece de 25 a 60, incluidos Claude Code de Anthropic, Codex y GitHub Copilot de OpenAI. El sistema también se basa en los “Agentes Guardianes”, los ayudantes de IA anunciaron en julio que investigan por qué cambió el riesgo de otro agente y recomiendan o toman medidas para contenerlo.
La letra pequeña: las nuevas características están en vista previa privada, con una disponibilidad más amplia planificada para la conferencia Ignite de Microsoft del 17 al 19 de noviembre. E7 se lanzó en mayo a $99 por usuario por mes, y no se dio ningún precio separado para estas adiciones. El informe no explica cómo se calculan las puntuaciones de riesgo ni qué umbrales desencadenan qué respuesta, por lo que el rendimiento en el mundo real no está probado.
Qué hay detrás de esto: un “agente de IA” es un asistente que no solo responde preguntas sino que realiza acciones, como enviar correos electrónicos, editar archivos o llamar a otro software. Esto es útil y también es la razón por la que las empresas se ponen nerviosas: un agente confundido o secuestrado con amplio acceso puede causar un daño real rápidamente. Piense en ello como darle una llave maestra a un nuevo pasante. Querrá observar lo que abren, restringir lo que pueden cambiar y tener una manera de recuperar la llave. El argumento de Microsoft, haciéndose eco de una publicación de blog reciente de CEO Satya Nadella, es que los controles deben ubicarse fuera de los propios modelos. Una pregunta justa, planteada por los comentaristas, es quién controla el verificador cuando una empresa suministra tanto los agentes como el guardrails.
Qué significa esto para ti: si usas IA solo para tareas personales, esta es una noticia de fondo. Si eres responsable de la IA en un equipo o empresa, es una buena idea hacer una pregunta sencilla: ¿qué agentes existen aquí, a qué puede llegar cada uno y quién puede desactivarlos? Puede responder eso hoy, con o sin las herramientas de Microsoft.
Fuentes
Fuentes: https://www.geekwire.com/2026/microsoft-unveils-tools-to-monitor-and-corral-rogue-ai-agents/
La gente está pidiendo a los agentes de inteligencia artificial que vuelvan a hacer tontos sus televisores inteligentes
Los propietarios están utilizando agentes de codificación para eliminar anuncios, rastreadores e hinchar los televisores Android y Fire. Funciona para muchos, pero también puede bloquear un televisor, así que tenga cuidado.
