Tracebit
Eine Sicherheitsfirma, die an Lockvögeln und Kanarienvögeln in Cloud-Umgebungen arbeitet, einschließlich einer Technik, die das eigene Sicherheitstraining eines angreifenden KI-Modells gegen sich selbst richtet.
Das normale Geschäft von Tracebit besteht darin, überzeugende gefälschte Ressourcen in einem Cloud-Konto zu platzieren, damit jeder, der sie berührt, sich zu erkennen gibt. Die Idee ist alt und zuverlässig: Ein Angreifer kann den Täuschkörper nicht vom Original unterscheiden, und legitime Benutzer haben keinen Grund, sich ihm zu nähern.
Im Jahr 2026 sorgte es mit einer hübschen Umkehrung der sofortigen Injektion für Schlagzeilen im Bereich KI. Anstatt Anweisungen zu verbergen, die ein Modell zu Fehlverhalten verleiten, versteckte die Firma kurze Schnüre, die die eigenen Sicherheitsregeln eines angreifenden Modells außer Kraft setzen und es mitten in der Aufgabe stoppen. Es handelt sich um eine Verteidigung, die genau deshalb funktioniert, weil der Angreifer ein gut abgestimmtes Modell verwendet.