Eine Sicherheitsfirma hat eine Wegwerfmaschine gebaut, die Ihr Programmierer zerstören kann
Trail of Bits hat Coop veröffentlicht, ein Befehlszeilentool, das virtuelle Einwegmaschinen startet, auf denen Claude Code und Codex vollständigen Toolzugriff erhalten, ohne Ihren eigenen Computer zu berühren. Es verwendet Firecracker unter Linux und Lima unter macOS.
Das Sicherheitsberatungsunternehmen Trail of Bits hat Coop veröffentlicht und es beantwortet eine Frage, die viele Leute stillschweigend gemieden haben: Was passiert, wenn der Codierungsagent, dem Sie volle Berechtigungen erteilt haben, etwas tut, was Sie nicht wollten? Coop ist ein kleines Befehlszeilentool, das verfügbare virtuelle Maschinen erstellt, in denen Agenten wie Claude Code und Codex von OpenAI vollständigen Zugriff auf Docker, Git, Compiler und Paketmanager erhalten, ohne dass etwas davon Ihren tatsächlichen Computer berührt. Jede Maschine ist isoliert, reproduzierbar und billig genug, um sie wegzuwerfen und neu herzustellen.
Die Mechanik ist unscheinbar und das ist der Punkt. Unter Linux installiert das Setup Firecracker, die leichte virtuelle Maschinentechnologie, die Amazon für seine serverlose Plattform entwickelt hat, und ruft einen Gastkernel ab. Unter macOS muss Lima zuerst über Homebrew installiert werden, sonst schlägt die Einrichtung fehl. Trail of Bits baut diese Kategorie schon seit einiger Zeit auf: Es verwaltet außerdem einen Devcontainer zum Ausführen von Claude Code mit deaktivierten Berechtigungsaufforderungen in einem Container, der nur Ihr Projektverzeichnis erreichen kann, und ein Tool zum Hochfahren wegwerfbarer Cloud-Server für denselben Zweck. Alle drei existieren, weil das Unternehmen seinen Lebensunterhalt damit verdient, nicht vertrauenswürdigen Code zu überprüfen und den Agenten nicht in die Nähe des Laptops des Prüfers bringen wollte.
Warum die Schaltfläche „Ja zu allem“ das ganze Problem ist. Programmieragenten fragen um Erlaubnis, bevor sie Befehle ausführen, und nach der zwanzigsten Aufforderung schalten alle das ab, weil das Tool nur dann schnell ist, wenn man aufhört, es zu überwachen. Das Problem besteht darin, dass dieselbe Einstellung, die die Unterbrechungen stoppt, auch die letzte Prüfung auf einem System entfernt, das problemlos einen Befehl ausführt, den es falsch gelesen hat oder der versteckt in einer Datei angekommen ist, die es lesen sollte. Dieser zweite Fall hat einen Namen: Prompt-Injection, und das ist der Grund, warum Isolation wichtiger ist als Vorsicht: Sie können nicht jede Anweisung zuverlässig lesen, auf die Ihr Agent stößt, aber Sie können sicherstellen, dass die Maschine, auf der er steht, keine Rolle spielt. Sandboxing ist keine Aussage darüber, wie sehr Sie dem Modell vertrauen. Es geht darum, was Sie tun, damit Vertrauen nicht mehr lasttragend ist.
Was das für Sie bedeutet. Wenn Sie auf Ihrem Hauptcomputer einen Codierungsagenten im Permissivmodus verwenden, ist dies die Woche, dies zu ändern, und Coop ist eine von mehreren vernünftigen Möglichkeiten, dies zu tun. Anthropic liefert Sandbox-Optionen in der eigenen Dokumentation von Claude Code, Devcontainer funktionieren in VS Code und eine billige Cloud-Instanz, die Sie anschließend zerstören, funktioniert auch. Wählen Sie das aus, das zu Ihrem Setup passt, und nicht das mit der besten Readme-Datei. Wenn Sie keinen Code schreiben, gilt immer noch die übertragbare Idee: Wenn Sie einem KI-Tool die Fähigkeit geben, zu handeln und nicht nur zu antworten, lautet die Frage, die es wert ist, gestellt zu werden, nicht „Wird es sich verhalten“, sondern „Was kann es erreichen, wenn es nicht funktioniert?“.
Quellen
Quellen: https://github.com/trailofbits/coop
Anthropics Fable 5.1 kostet das Gleiche, mit Ausnahme des Teils, den die Agenten am häufigsten nutzen
Claude Fable 5.1 wurde am 1. September mit unveränderten Hauptpreisen von 10 und 50 US-Dollar pro Million Token eingeführt, die Cache-Lesevorgänge gingen jedoch um 75 Prozent auf 0,25 US-Dollar zurück. Anthropic sagt, dass dadurch etwa 25 Prozent der typischen Arbeit eingespart werden.
