Preparedness Framework
OpenAIs internes Regelwerk, um vor der Veröffentlichung zu messen, wie gefährlich ein Modell ist und welche Schutzmaßnahmen diese Stufe verlangt.
Das Preparedness Framework ist die Art, wie OpenAI entscheidet, ob ein Modell sicher genug für die Auslieferung ist. Vor der Veröffentlichung wird ein Modell in einer Handvoll Risikokategorien bewertet, darunter IT-Sicherheit, biologische und chemische Fähigkeiten sowie KI-Selbstverbesserung. Jede Kategorie bekommt eine Einstufung, und das Erreichen der Schwelle “hoch” löst ein vorgeschriebenes Bündel an Schutzmaßnahmen aus statt eines schlichten Ja oder Nein.
Es ist OpenAIs Fassung einer Richtlinie, die inzwischen jedes große Labor hat; Anthropics Gegenstück heißt Responsible Scaling Policy. Das sind selbst auferlegte Zusagen und keine Regulierung, worin zugleich der Reiz und die offensichtliche Grenze liegt: Das Unternehmen schreibt die Regeln, führt die Tests durch und benotet seine eigene Arbeit. Nützlich für Außenstehende ist, dass die Ergebnisse veröffentlicht werden, man kann also sehen, was ein Labor seinem eigenen Modell zutraut.
-
Das Ansehen seines eigenen Modells kostet OpenAI jetzt 20 Prozent mehr, und dafür wurde ein Trainingslauf unterbrochen
-
OpenAI hat ein Modell entwickelt, das Exploits schreibt, und es einer ausgewählten Liste von Unternehmen übergeben
-
OpenAI sagt, sein nächstes Modell könnte die höchste Cyber-Risikostufe erreichen und hat einen Teil der Arbeit unterbrochen
-
ChatGPT senkt sein Tageslimit für kostenlose Benutzer und tauscht ein genaueres Standardmodell ein