Microsoft fügt eine Sicherheitsbremse für KI-Agenten in Unternehmen hinzu: Sperren Sie ihnen den Zugriff, fragen Sie einen Menschen oder schalten Sie sie aus
Microsoft stellte eine Vorschau der Tools vor, die das Risiko jedes KI-Agenten bewerten und es begrenzen, eine Genehmigung erfordern oder es abschalten können. Noch in der privaten Vorschau, eine breitere Einführung ist für Ignite geplant.
Laut GeekWire vom 19. Oktober hat Microsoft neue Kontrollen für KI-Agenten angekündigt, die innerhalb von Unternehmen ausgeführt werden. Die Funktionen sind in Microsoft 365 E7, seinem Top-Business-Paket, und in Project Perception, seinem KI-Sicherheitssystem, verfügbar. Sie führen für jeden Agenten eine laufende Risikobewertung, die auf Signalen basiert, etwa auf welche Daten er zugreifen kann und ob seine Aktionen von der ihm zugewiesenen Aufgabe abweichen.
Wenn die Punktzahl steigt, haben Administratoren drei Hebel. Sie können einem Agenten die Möglichkeit nehmen, Änderungen vorzunehmen, ihm aber weiterhin das Lesen von Informationen ermöglichen. Sie können verlangen, dass eine Person einem Schritt mit hohem Risiko zustimmt. Oder sie können den Agenten abschalten. Eine weitere Funktion findet Agenten, die auf den eigenen Computern der Mitarbeiter ausgeführt werden, und die Liste der erkennbaren Agententypen wächst von 25 auf 60, darunter Claude Code von Anthropic, Codex von OpenAI und GitHub Copilot. Das System baut auch auf „Guardian Agents“ auf, im Juli angekündigte KI-Helfer, die untersuchen, warum sich das Risiko eines anderen Agenten geändert hat, und Maßnahmen zur Eindämmung empfehlen oder ergreifen.
Das Kleingedruckte: Die neuen Funktionen befinden sich in der privaten Vorschau, eine größere Verfügbarkeit ist für die Ignite-Konferenz von Microsoft vom 17. bis 19. November geplant. E7 wurde im Mai für 99 US-Dollar pro Benutzer und Monat eingeführt, und für diese Ergänzungen wurde kein gesonderter Preis angegeben. Der Bericht erklärt nicht, wie Risikobewertungen berechnet werden oder welche Schwellenwerte welche Reaktion auslösen, sodass die tatsächliche Leistung nicht bewiesen ist.
Was dahinter steckt: Ein „KI-Agent“ ist ein Assistent, der nicht nur Fragen beantwortet, sondern Aktionen ausführt, wie zum Beispiel E-Mails verschickt, Dateien bearbeitet oder andere Software aufruft. Das ist nützlich und auch der Grund, warum Unternehmen nervös werden: Ein verwirrter oder gekapter Agent mit breitem Zugriff kann schnell großen Schaden anrichten. Stellen Sie sich das so vor, als würden Sie einem neuen Praktikanten einen Hauptschlüssel geben. Sie möchten beobachten, was sie öffnen, einschränken, was sie ändern können, und eine Möglichkeit haben, den Schlüssel zurückzuholen. Microsoft vertritt in Anlehnung an einen aktuellen Blogbeitrag von CEO Satya Nadella die Auffassung, dass die Bedienelemente außerhalb der Modelle selbst sitzen sollten. Eine von Kommentatoren aufgeworfene berechtigte Frage ist, wer den Prüfer überprüft, wenn ein Unternehmen sowohl die Wirkstoffe als auch den Guardrails liefert.
Was das für Sie bedeutet: Wenn Sie KI nur für persönliche Aufgaben verwenden, handelt es sich hierbei um Hintergrundnachrichten. Wenn Sie in einem Team oder Unternehmen für KI verantwortlich sind, ist es ein guter Anlass, eine einfache Frage zu stellen: Welche Agenten gibt es hier, was kann jeder einzelne erreichen und wer kann sie ausschalten? Das können Sie heute beantworten, mit oder ohne die Werkzeuge von Microsoft.
Quellen
Quellen: https://www.geekwire.com/2026/microsoft-unveils-tools-to-monitor-and-corral-rogue-ai-agents/
Die Leute bitten KI-Agenten, ihre Smart-TVs wieder dumm zu machen
Besitzer verwenden Coding-Agenten, um Werbung, Tracker und Aufblähungen von Android- und Fire-Fernsehern zu entfernen. Es funktioniert bei vielen, aber es kann auch einen Fernseher beschädigen, also gehen Sie vorsichtig vor.
