← Glossar Begriff
CyberGym
Ein Benchmark dafür, wie gut KI-Modelle reale Softwarelücken finden und ausnutzen.
CyberGym ist ein Benchmark für offensive IT-Sicherheit. Ein Modell erhält echte Codebasen mit bekannten Schwachstellen und muss nicht nur den Fehler beschreiben, sondern einen funktionierenden Angriff erzeugen.
Labore nennen CyberGym häufig bei Sicherheitsmodellen. Der Wettbewerb ist heikel: Dieselbe Fähigkeit kann Verteidigern helfen, Lücken früher zu finden, oder Angreifern einen Vorsprung verschaffen. Deshalb beschränken mehrere Labore den Zugang zu ihren stärksten Modellen in diesem Bereich.
Erwähnt in
-
GLM-5.3 kann Software deutlich besser angreifen, deshalb hält Z.ai die Gewichte zurück
-
Ein offenes Modell liegt nun Monate, nicht Jahre, hinter der Grenze zurück. Die Sicherheitsprüfung erfolgt nicht.
-
Microsoft will nicht länger dem größten KI-Modell nachjagen, sondern kleine Spezialisten bauen
-
1.200 Beschäftigte aus KI-Laboren fordern in Washington eine Bremse, die noch niemand bauen kann
-
Hugging Face rekonstruiert lückenlos, wie ein KI-Agent in seine Systeme eindrang
-
Microsofts neues Sicherheitsmodell ist absichtlich klein, genau das macht es interessant