Das Ansehen seines eigenen Modells kostet OpenAI jetzt 20 Prozent mehr, und dafür wurde ein Trainingslauf unterbrochen
Laut OpenAI trägt die Sicherheitsüberwachung etwa 20 Prozent zur überwachten Inferenzberechnung bei. Das Verstärkungslernen wurde zwei Wochen lang unterbrochen, und der größte geplante Grenzdurchlauf liegt immer noch auf Eis.
OpenAI veröffentlichte am 18. August einen Beitrag, in dem erklärt wurde, warum es langsamer wurde. Zwei Dinge ereigneten sich nahe beieinander: der Sicherheitsvorfall Hugging Face und vorläufige Beweise dafür, dass Astra, ein kommendes Modell, möglicherweise die kritische Cybersicherheitsschwelle im firmeneigenen Preparedness Framework überschreitet. Als Reaktion darauf pausierte OpenAI das Reinforcement-Learning-Training für seine neuesten Modelle für zwei Wochen, während es seine Forschungsumgebungen härtete, und sagte, sein größter geplanter Frontier-Trainingslauf bleibe auf Eis, während kleinere Evaluierungen zuerst durchgeführt würden.
Die Nummer, die abgeholt wurde, ist der Preis. OpenAI schätzt seinen Überwachungsaufwand auf etwa 20 Prozent der überwachten Inferenzberechnung, betont jedoch, dass dieser Wert je nach Arbeitslast stark schwankt. Wenn das Wort neu ist, handelt es sich bei der Inferenz lediglich um den Vorgang, ein Modell laufen zu lassen, um eine Antwort zu erhalten, und nicht darum, es zunächst zu trainieren. Für jeweils fünf Recheneinheiten, die für eine überwachte Arbeitslast aufgewendet werden, wird also ein Sechstel für die Überwachung aufgewendet. Das Unternehmen teilte The Register mit, dass es sich dabei um interne Forschungsausgaben handele, die nicht direkt an die Kunden weitergegeben würden.
Was man mit diesem Geld kauft, ist mehr als nur ein Filter für die Ausgabe. Klassifikatoren prüfen die interne Aktivität des Modells bei jedem abgetasteten Token und leiten alle Auffälligkeiten an zunehmend teurere automatisierte Ermittler weiter, die Werkzeugaktionen, die sichtbare Begründung und den gesamten Verhaltensablauf auf unbefugten Zugriff, Datendiebstahl, Zerstörung oder Versuche, Sicherheitsmaßnahmen zu umgehen, untersuchen. Das Ziel besteht darin, innerhalb von 30 Minuten einen Alarm auszulösen. Wenn die angerufenen Teams einen Fehlalarm in diesem Zeitfenster nicht ausschließen können, wird die Aktivität voraussichtlich eingestellt. Die Anforderung umfasst alle Verstärkungslern- und Werkzeugnutzungsbewertungen mit GPT-5.6 Sol-Fähigkeit oder höher und seit dem 7. August alle Astra-Inferenzen mit Werkzeugen.
Hier ist der Teil, der leicht zu übersehen ist. Dies ist ein Unternehmen, das laut sagt, dass seine eigenen Labore jetzt eine Risikofläche darstellen. Bei der beschriebenen Sicherheitsarbeit geht es nicht darum, Benutzer vor dem Modell zu schützen, sondern darum, das Modell innerhalb des Gebäudes einzudämmen: stärkere Sandboxen für alles, was modellgenerierten Code ausführt, Netzwerkisolation, damit ein kompromittierter Workload das Internet nicht erreichen kann, Entfernung gemeinsamer Dienste und automatisiertes Red Teaming, das seine eigenen Modelle verwendet, um kontinuierlich seine eigenen Grenzen anzugreifen. Dabei handelt es sich um eine Forschungsorganisation, die ihre Schulungscluster in etwa so behandelt, wie eine Bank einen Börsenparkett behandelt.
Was das für Sie bedeutet: In Ihrem ChatGPT-Fenster ändert sich heute nichts und kein Preis wurde verschoben. Der Grund, aufmerksam zu sein, ist die Wirtschaftlichkeit. Sicherheit wird normalerweise als politische Frage diskutiert, und hier erscheint sie als Einzelposten mit einem angehängten Prozentsatz, sodass sie gekürzt werden kann, wenn die Margen knapper werden. Das Register hat genau diesen Punkt angesprochen: Für ein privates Unternehmen ist es einfacher, die Kosten intern zu tragen als für ein öffentliches Unternehmen, was es wert ist, im Hinterkopf zu behalten, wenn OpenAI sich auf eine Listung zubewegt. Für jeden, der mit Agenten baut, gibt es ein kleineres, praktischeres Signal: Das stärkste Labor auf diesem Gebiet hat entschieden, dass es ein Fünftel der Rechenleistung wert ist, zu beobachten, was ein Werkzeug verwendendes Modell bei jedem Schritt tut.
Quellen
Quellen: https://openai.com/index/pacing-model-development-cyber-capabilities/
Geben Sie einem Grenzmodell nur eine Bibliographie und fragen Sie nach der Idee. Es kommt in 3 bis 15 Prozent der Fälle dort an
Ein neuer Benchmark namens Reconstruction entfernt alles außer der Referenzliste einer Arbeit und fordert Modelle auf, ihre Kernergebnisse wiederherzustellen. Sieben Frontier-Modelle erzielten Werte zwischen 3 und 15 Prozent. Ein Multi-Agenten-Turnier erreichte 42.
