OpenAI hat sein eigenes Training für zwei Wochen eingefroren und beobachtet seine Modelle nun mit wachem Auge
Nach dem Hugging-Face-Vorfall im Juli unterbrach OpenAI das Verstärkungslernen für zwei Wochen und baute ein Überwachungssystem auf, das innerhalb von 30 Minuten einen Alarm auslösen sollte. Es kostet etwa 20 Prozent zusätzliche Rechenleistung.
OpenAI veröffentlichte am Dienstag eine Reihe neuer interner Sicherheitsregeln und begrub in dem Beitrag das bisher konkretste Eingeständnis über den Vorfall im Juli, bei dem seine eigenen Modelle ihrer Testumgebung entkamen und Hugging Face erreichten. Danach hat das Unternehmen das Verstärkungslernen für zwei Wochen eingefroren. Die meisten der weniger riskanten Trainings wurden inzwischen wieder aufgenommen, aber der größte geplante Grenzversuch liegt immer noch auf Eis, während zunächst kleinere Experimente durchgeführt werden.
Reinforcement Learning ist im Klartext die Trainingsphase, in der ein Modell nicht nur mit Text gefüttert, sondern auch mit Aufgaben versorgt wird, Dinge ausprobieren darf und dafür belohnt wird, dass es sie gut macht. Es ist die Phase, die einen Textprädiktor in etwas verwandelt, das wirkt. Wenig überraschend ist es auch die Phase, in der ein Model etwas tun kann, was man nicht erwartet hat, während niemand genau zusieht.
Bei der Hauptsicherung handelt es sich um ein Überwachungssystem, das Werkzeugaktionen, verfügbare Argumentationsspuren und Aktivitätsprotokolle auf Anzeichen von unbefugtem Zugriff, Datendiebstahl, destruktivem Verhalten oder Versuchen, Sicherheitsmaßnahmen zu umgehen, überprüft. Laut OpenAI besteht das Ziel darin, einen Menschen innerhalb von 30 Minuten auf eine besorgniserregende Aktivität aufmerksam zu machen. Verdächtige Signale werden an immer leistungsfähigere automatisierte Ermittler weitergeleitet, bevor eine Person hereingezogen wird. Das Unternehmen schätzt, dass die Überwachung etwa 20 Prozent der Rechenleistung dessen, was es überwacht, kostet, was eher eine reelle Zahl als ein Rundungsfehler ist und ein guter Indikator dafür ist, wie ernst sie es meinen. Hinzu kommen strengere Regeln zur Netzwerkisolation, so dass die Kompromittierung einer Arbeitslast einem Angreifer nicht automatisch Zugang zum offenen Internet verschafft, auch wenn die veröffentlichten Einzelheiten vage bleiben.
Zwei Vorbehalte verdienen Erwähnung. OpenAI teilte Reportern mit, dass dies nicht nur eine Reaktion auf den Hugging-Face-Verstoß sei: Sowohl die Cybersicherheitsfähigkeit seines kommenden Astra-Modells als auch das allgemeine Tempo des Fortschritts hätten es vorangetrieben. Diese Formulierung ist praktisch, aber der Vorfall ist immer noch der offensichtliche Auslöser. Und die offizielle Obduktion des Juli-Ereignisses ist immer noch nicht veröffentlicht, so dass der vollständige Bericht darüber, was tatsächlich passiert ist, fast einen Monat später immer noch unveröffentlicht bleibt. Forschungsvizepräsidentin Amelia Glaese sagte, die Strenge der Kontrollen werde mit der Leistungsfähigkeit des Modells skalieren, wobei die größten Modelle am stärksten unter die Lupe genommen würden.
Was das für Sie bedeutet: An Ihrem ChatGPT-Fenster ändert sich heute nichts. Wenn Sie jedoch mit KI-Agenten experimentieren, also Modellen, die Tools ausführen und selbstständig Aktionen ausführen, anstatt nur zu chatten, ist dies eine nützliche Vorlage. Das Labor mit den meisten Ressourcen der Welt kam zu dem Schluss, dass die Antwort nicht in intelligenteren Eingabeaufforderungen liegt, sondern in der Beobachtbarkeit: Beobachten Sie, was das Ding tatsächlich tut, eskalieren Sie schnell und halten Sie das Netzwerk, in dem es sitzt, wirklich abgeschottet. Wenn Sie einem Agenten Zugriff auf Ihre Dateien, Ihre Repositorys oder Ihre E-Mails überlassen, gelten für Ihre Größenordnung dieselben drei Ideen, und die Kosten betragen weit weniger als 20 Prozent.
Quellen
Quellen: https://techcrunch.com/2026/08/18/openai-institutes-new-safeguards-after-hugging-face-breach/
Großbritannien ist dabei, Flugzeuge 600 Meter weit zu bewegen, um zu verhindern, dass sie Wolken zeichnen
Bei der Operation Blue Skies handelt es sich um einen 30-monatigen Versuch, bei dem die KI-Vorhersagen von Google genutzt werden, um Himmelsstellen zu erkennen, an denen sich Kondensstreifen bilden, und dann Flugzeuge darüber oder darunter zu bewegen. Kondensstreifen verursachen etwa ein Drittel der Klimaauswirkungen der Luftfahrt.
