Microsoft aggiunge un freno di sicurezza per gli agenti IA aziendali: blocca il loro accesso, chiedi a un essere umano o spegnili
Microsoft ha presentato in anteprima strumenti che assegnano un punteggio al rischio di ciascun agente IA e possono limitarlo, richiedere l'approvazione o disattivarlo. Ancora in anteprima privata, con un lancio più ampio previsto per Ignite.
Microsoft ha annunciato nuovi controlli per gli agenti IA che operano all’interno delle aziende, secondo GeekWire del 19 ottobre. Le funzionalità arrivano in Microsoft 365 E7, il suo pacchetto aziendale di punta, e in Project Perception, il suo sistema di sicurezza AI. Mantengono un punteggio di rischio corrente per ciascun agente, in base a segnali come quali dati può raggiungere e se le sue azioni si stanno allontanando dal lavoro assegnato.
Quando il punteggio sale, gli amministratori hanno tre leve. Possono togliere la capacità di un agente di apportare modifiche pur consentendogli di leggere le informazioni. Possono richiedere a una persona di approvare un passaggio ad alto rischio. Oppure possono chiudere l’agente. Un’altra funzionalità rileva gli agenti in esecuzione sui computer dei dipendenti e l’elenco dei tipi di agenti rilevabili cresce da 25 a 60, inclusi Claude Code di Anthropic, Codex di OpenAI e GitHub Copilot. Il sistema si basa anche sui “Guardian Agents”, gli assistenti AI annunciati a luglio che indagano sul motivo per cui il rischio di un altro agente è cambiato e raccomandano o adottano misure per contenerlo.
In piccolo: le nuove funzionalità sono in anteprima privata, con una disponibilità più ampia prevista per la conferenza Ignite di Microsoft dal 17 al 19 novembre. E7 è stato lanciato a maggio a $ 99 per utente al mese e non è stato fornito alcun prezzo separato per queste aggiunte. Il rapporto non spiega come vengono calcolati i punteggi di rischio o quali soglie attivano ciascuna risposta, quindi le prestazioni nel mondo reale non sono dimostrate.
Cosa c’è dietro: un “agente AI” è un assistente che non si limita a rispondere alle domande ma esegue azioni, come inviare e-mail, modificare file o chiamare altri software. Questo è utile, ed è anche il motivo per cui le aziende si innervosiscono: un agente confuso o dirottato con ampio accesso può causare rapidamente danni reali. Pensalo come dare una chiave principale a un nuovo stagista. Dovresti guardare cosa aprono, limitare ciò che possono cambiare e avere un modo per riprendere la chiave. L’idea di Microsoft, che fa eco a un recente post sul blog di CEO Satya Nadella, è che i controlli dovrebbero trovarsi all’esterno dei modelli stessi. Una domanda giusta, sollevata dai commentatori, è chi controlla il controllore quando un’azienda fornisce sia gli agenti che lo guardrails.
Che cosa significa per te: se utilizzi l’intelligenza artificiale solo per attività personali, questa è una notizia di fondo. Se sei responsabile dell’intelligenza artificiale in un team o in un’azienda, è una buona idea porre una semplice domanda: quali agenti esistono qui, cosa possono raggiungere ciascuno e chi può disattivarli? Puoi rispondere oggi stesso, con o senza gli strumenti Microsoft.
Fonti
Fonti: https://www.geekwire.com/2026/microsoft-unveils-tools-to-monitor-and-corral-rogue-ai-agents/
Le persone chiedono agli agenti di intelligenza artificiale di rendere nuovamente stupide le loro smart TV
I proprietari utilizzano agenti di codifica per eliminare pubblicità, tracker e gonfiori dai televisori Android e Fire. Funziona per molti, ma può anche murare una TV, quindi fai attenzione.
