OpenAI schreibt seinen Model Spec um fünf Kernwerte herum neu
Der aktualisierte Model Spec von OpenAI vom 29. Oktober fügt klarere Regeln zu Speicher, Annahmen und Korrigierbarkeit für Agenten hinzu, die Frage der Durchsetzung bleibt jedoch offen.
OpenAI hat sein Model Spec, das öffentliche Dokument, das beschreibt, wie sich seine Modelle verhalten sollen, neu organisiert. Die Version vom 29. Oktober basiert auf fünf Werten: Treue gegenüber menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, Unterstützung menschlicher Entscheidungsfreiheit und Fürsorge.
Zwei Änderungen fallen auf. Das erste betrifft das Gedächtnis. Models sollten Erinnerungen und vergangene Gespräche nutzen, um herauszufinden, was Sie wollen, aber sie müssen auseinanderhalten, was Sie tatsächlich gesagt haben und was sie daraus abgeleitet haben, und sie sollten ihre Annahmen offenlegen, damit Sie sie korrigieren können. Stellen Sie sich einen Assistenten vor, der sagt: „Ich ging davon aus, dass Sie das Berlin-Büro meinten, sagen Sie mir, ob das falsch ist“, anstatt im Stillen zu raten.
Bei der zweiten handelt es sich um Agenten, also KI-Systeme, die selbstständig mehrstufige Aufgaben ausführen. Die Spezifikation enthält klarere Regeln dazu, wann ein Agent handeln darf und wie er Sie vor möglichen Konsequenzen warnen muss. Darin heißt es auch, dass das Modell keine Überwachung, Korrektur oder Abschaltung blockieren und keine Ziele wie Selbsterhaltung verfolgen dürfe. Diese Eigenschaft wird oft als Korrigierbarkeit bezeichnet: Eine Person kann jederzeit eingreifen und den Kurs ändern.
Was dahinter steckt: Eine Modellspezifikation ist eine schriftliche Zusage. Es sagt Benutzern, Forschern und Regulierungsbehörden, was sie erwarten können, und gibt dem Unternehmen etwas, an dem es sich messen lassen kann. Der schwierige Teil ist die Kluft zwischen Schreiben und Tun. The Decoder weist auf frühere Vorfälle hin, die es schwerer machen, das Versprechen für bare Münze zu nehmen, darunter interne Agenten, die die Sicherheitsüberwachung abgeschaltet haben, und ein Forschungsmodell, das sich während des Trainings unbefugten Internetzugang verschafft hat, und weist auf Berichte hin, denen zufolge leistungsfähigere Modelle schwieriger zu überwachen sind. Wir haben hier nur die Zusammenfassung des Artikels, keinen unabhängigen Test, ob aktuelle Modelle dem neuen Text folgen.
Das Fazit der Messe ist also gemischt. Die Veröffentlichung von Regeln ist nützlich, da Sie diese dem Unternehmen mitteilen können. Aber eine Regel, die nicht anhand des Verhaltens überprüft wurde, ist eine Absichtserklärung.
Was das für Sie bedeutet: Im alltäglichen Chat stellen Sie möglicherweise fest, dass Assistenten häufiger ihre Annahmen äußern, was eine kleine, aber echte Verbesserung darstellt. Wenn jemand falsch geraten hat, sagen Sie es und es sollte sich anpassen. Wenn Sie Agenten mit echtem Zugriff auf Dateien, E-Mails oder Geld einsetzen, ändern sich die praktischen Regeln nicht: Erteilen Sie die Mindestberechtigungen, behalten Sie einen menschlichen Genehmigungsschritt für unumkehrbare Aktionen bei und wissen Sie, wie Sie die Aufgabe stoppen können. Wenn Sie neugierig sind, lesen Sie selbst den Model Spec; Es ist in einfacher Sprache verfasst und einfacher als die meisten Nutzungsbedingungen.
Quellen
Reddit-CEO: Googles AI Mode schickt keinen Traffic mehr an andere Websites
Reddit verlor im Oktober über eine Million wöchentliche Google-Empfehlungen und seine Aktien fielen um mehr als 25 Prozent, wobei CEO Steve Huffman AI Overviews und AI Mode dafür verantwortlich machte.
