Forscher zeigen, dass ein offenes Modell öffentliche Firefox-Korrekturen in funktionierende Angriffe umwandeln kann
Epoch AI ließ das Modell Open-weight GLM 5.3 alleine an der Patch-Lücke von Firefox arbeiten und baute Exploits zum Diebstahl von Dateien für sechs Versionen für jeweils etwa 1.000 US-Dollar auf.
Epoch AI, eine Forschungsgruppe, die den KI-Fortschritt verfolgt, führte ein besorgniserregendes Experiment durch. Es gab dem Open-Weight-Modell GLM 5.3 von Z.ai eine einfache Aufgabe: Erstellen einer Webseite, die, wenn jemand sie in Firefox besucht, eine Datei von seinem Computer liest. Das Modell funktionierte eigenständig, offline und nutzte nur das, was zum Veröffentlichungsdatum jeder Firefox-Version öffentlich war. Dies gelang bei sechs Versionen von 156.0 bis 158.0.1, die zwischen dem 17. September und dem 26. Oktober ausgeliefert wurden.
Der Trick ist die „Patch-Lücke“: das Zeitfenster zwischen der Sichtbarkeit eines Sicherheitsupdates im öffentlichen Code und dem Erreichen dieses Fixes in jedem Browser. Ein Fix ist auch ein Hinweis darauf, wo der Fehler war. Das Modell erkannte bevorstehende Korrekturen, suchte nach Fehlern und kettete mehrere Schritte aneinander, um die Abwehrmaßnahmen von Firefox zu umgehen. Der Besuch der Seite reichte aus, um eine Datei zu lesen und an einen Angreifer zu senden. Der schnellste Erfolg dauerte etwa 12 Stunden, mit einem Limit von 48 Stunden pro Versuch. Sobald das Setup existierte, kostete jede Firefox-Version etwa 1.000 US-Dollar an API-Gebühren, obwohl die gesamten Forschungsausgaben 100.000 US-Dollar überstiegen.
Es gibt gute Nachrichten und eine Liste mit Vorbehalten. Das Team meldete den wichtigsten unveröffentlichten Fehler an Mozilla, das ihn am 27. Oktober in Firefox 159.0 behob, und die Forscher haben noch nicht überprüft, ob die Angriffe noch funktionieren. Sie konnten zwar Dateien lesen, hatten aber nicht die volle Kontrolle über die Maschine. Ähnliche Versuche gegen Chrome waren nicht erfolgreich, aber das beweist nicht, dass Chrome sicher ist, da bessere Eingabeaufforderungen oder stärkere Modelle dies möglicherweise tun könnten. Und die Sicherheitsfilter des Anbieters griffen nicht ein, obwohl die Arbeit als Sicherheitsforschung eingestuft wurde.
Was dahintersteckt: Verteidiger haben immer versucht, Patches zu finden, bevor Angreifer Korrekturen rückentwickeln konnten. Was sich ändert, sind die Kosten. Arbeiten, die früher einen erfahrenen Spezialisten erforderten, können nun stundenweise von einem Modell abgekauft werden, und die Reparatur selbst wird zum Schlüssel. Die Vorschläge von Epoch sind praktisch: Behalten Sie Fixes vertraulich, bis sie zur Auslieferung bereit sind, verschieben Sie sie schneller von Test-Builds auf Veröffentlichungen, vermeiden Sie die Bündelung von Fehlern, die verkettet werden könnten, und aktualisieren Sie häufiger. Firefox und Chrome haben bereits mit wöchentlichen Updates begonnen. Das Risiko ist am höchsten, wenn Software selten aktualisiert wird, etwa Router-Firmware und Telefonbetriebssysteme.
Was das für Sie bedeutet: Die beste Antwort ist langweilig und effektiv. Lassen Sie Ihren Browser, Ihr Telefon und Ihren Router auf automatische Updates eingestellt und starten Sie neu, wenn Sie dazu aufgefordert werden, denn ein ausstehendes Update ist genau die Lücke, um die es in dieser Untersuchung geht. Sie müssen nicht in Panik geraten oder den Browser wechseln, wenn Sie eine Studie durchführen. Wenn Sie ein kleines Unternehmen betreiben oder sich um Familiengeräte kümmern, betrachten Sie „bald aktualisieren“ als echte Frist und nicht als Vorschlag.
Quellen
Quellen: https://epoch.ai/publications/open-weight-models-patch-gap
Mistral veröffentlicht Large 4 „Le Chonk“ als Open Weights, stark beim Programmieren, aber insgesamt hinter China
Der 1-Billion-Parameter Large 4 von Mistral ist jetzt mit einer modifizierten MIT-Lizenz und günstigen API-Preisen herunterladbar, obwohl die besten chinesischen und geschlossenen Modelle insgesamt immer noch führend sind.
