Dieses offene Modell ist so gut darin, Fehler zu finden, dass sein eigener Hersteller es noch nicht veröffentlicht
GLM-5.3 von Z.ai hat beim Testen 2.436 Schwachstellen in 269 Open-Source-Projekten gefunden. Das Unternehmen hält die herunterladbaren Gewichte etwa zwei Wochen lang zurück, während es das Modell härtet, eine ungewöhnliche Verzögerung für eine Veröffentlichung offener Gewichte.
Das chinesische KI-Labor Z.ai hat am 14. August sein neues Codierungsmodell GLM-5.3 veröffentlicht, aber es gibt einen Haken: Sie können es noch nicht herunterladen. Normalerweise bedeutet ein „Open-Weight“-Modell, dass das Unternehmen die tatsächlichen Modelldateien veröffentlicht, sodass jeder eine Kopie auf seiner eigenen Hardware ausführen kann. Z.ai hat GLM-5.3 stattdessen über seinen gehosteten Codierungsdienst gestartet und angekündigt, die herunterladbaren Gewichte etwa zwei Wochen lang zurückzuhalten, während die Sicherheitstests abgeschlossen sind.
Der Grund liegt in den Testergebnissen. Bei CyberGym, einem Benchmark, der misst, wie gut ein Modell echte Schwachstellen in bestehender Software findet, erreichte GLM-5.3 84,5 Prozent, gegenüber 77,2 Prozent beim Vorgänger. Z.ai hat ein öffentliches „Sicherheitsbuch“ erstellt, das die Ergebnisse des Modells auflistet: Bis zur Woche des Starts wurden 2.436 Probleme in 269 Open-Source-Projekten gemeldet, darunter über tausend, die als kritisch oder mit hohem Schweregrad eingestuft wurden. Zu diesem Zeitpunkt verfügten nur 53 über öffentliche Fixes (CVEs, die Standard-Tracking-Nummern für bekannte Softwarefehler). Der Rest stand noch unter Embargo, während die Betreuer der betroffenen Projekte an Patches arbeiteten.
Was eigentlich los ist: GLM-5.3 hat sozusagen kein neues Gehirn bekommen. Laut Z.ai handelt es sich um das gleiche Basismodell wie GLM-5.2, nur mit zusätzlicher Schulung zu langen Codierungen und „agentischen“ Aufgaben. Das bedeutet, dass das Modell geübt hat, Code tatsächlich auszuführen, zu testen und seine eigenen Fehler in einer Schleife zu beheben, anstatt nur zu beschreiben, was Code tun soll. Diese Art von Schulung erweist sich als sehr gut, wenn es darum geht, Softwarefehler fast nebenbei zu finden, da das Erkennen einer Schwachstelle und das Verstehen, wie man sie ausnutzt, auf ähnlichen Fähigkeiten basieren. Es lohnt sich, sich darüber im Klaren zu sein, was die Zahlen bewirken und was nicht: Hierbei handelt es sich um Z.ai-eigene Testergebnisse, die nicht unabhängig überprüft wurden, und das Finden eines Fehlers ist eine andere und einfachere Aufgabe, als zuverlässig in ein Live-System einzubrechen.
Während die Gewichte privat bleiben, gewährt Z.ai geprüften Sicherheitsforschern kontrollierten Zugriff und hat ein separates Tool namens OpenVuln veröffentlicht, mit dem Open-Source-Betreuer ihre eigenen Repositories mit dem Modell scannen können, bevor jemand mit bösen Absichten die Chance bekommt.
Was das für Sie bedeutet: Wenn Sie nicht mit einer Open-Source-Infrastruktur arbeiten, ist dies hauptsächlich ein Signal dafür, wohin die KI-Sicherheitsforschung geht, und nicht etwas, das Ihren Tag berührt. Wenn Sie Open-Source-Software verwalten oder sich darauf verlassen, ist dies eine Vorschau auf den Kompromiss, der für alle bevorsteht: Sobald die Gewichte von GLM-5.3 öffentlich sind, kann jeder die gleiche Fehlersuchfunktion lokal, zur Verteidigung oder zum Angriff ausführen, und Z.ai hat bereits gesagt, dass es nicht kontrollieren kann, was danach passiert. Ein fairer Vorbehalt: Zwei Wochen sind für Hunderte von Betreuern keine lange Zeit, um mehr als tausend Fehler zu beheben, bevor das Sicherheitsnetz fällt.
Quellen
Fähigkeiten machen KI-Agenten besser, indem sie ihnen eine Checkliste und keine Fakten geben. Und bei 100 Einträgen hören sie auf zu funktionieren
Princeton und UC San Diego führten 8.135 kontrollierte Tests durch. Das Verfahren erklärte 65,7 Prozent der Gewinne, das Wissen nur 4,5. Durch die Erweiterung der Bibliothek von 5 auf 100 Fertigkeiten sank die Abrufgenauigkeit von 29,6 auf 3,3 Prozent.
