Zuckerberg sagt, Sicherheit sei ein Wettbewerbsvorteil und kein Grund, langsamer zu werden

Der Streit darüber, ob KI-Labore absichtlich langsamer werden sollten, stieß am Montag auf den prominentesten Dissidenten. Mark Zuckerberg schrieb, dass Labore bereits sowohl die Verantwortung als auch den Anreiz hätten, Modelle sicher zu trainieren, und dass „jedes Labor, das sich nicht auf die Ausrichtung konzentriert, ins Hintertreffen geraten wird“. Bei der Ausrichtung geht es im Klartext darum, ein Modell dazu zu bringen, sich so zu verhalten, wie es von seinen Herstellern beabsichtigt wurde, und Zuckerberg behauptet, dass ein Labor, das darauf verzichtet, am Ende ein Produkt erhält, dem die Menschen nicht vertrauen, was ohne einen Branchenpakt Strafe genug ist.

Auf das Timing kommt es an. Am vergangenen Wochenende veröffentlichte Dario Amodei von Anthropic einen Aufsatz, in dem er Frontier Labs aufforderte, ihre Kapazitäten schneller voranzutreiben, und Sam Altman, Elon Musk und Demis Hassabis unterstützten die Idee weitgehend. Satya Nadella sagte, Microsoft begrüße die „bewusste Taktung, die erforderlich ist, um die richtige Ausrichtung zu erreichen“ und veröffentlichte parallel dazu einen Verhaltenskodex. Zuckerberg ging in die andere Richtung und näherte sich Jensen Huang von Nvidia, der argumentierte, dass die Branche keine neuen Gesetze brauche. Insbesondere stellte Zuckerberg Meta nicht als rücksichtslos dar: Er sagte, das Unternehmen habe Muse mehrere Monate lang zurückgehalten, um an der Sicherheit zu arbeiten. Er lehnte es einfach ab, andere zu bitten, dasselbe zu tun. Er wiederholte auch sein langjähriges Argument, dass Superintelligenz weit verbreitet und nicht von einer Handvoll Institutionen verwaltet werden sollte, da seiner Ansicht nach Sicherheit von einem Kräftegleichgewicht und nicht von der Vorsicht einer kleinen Gruppe abhängt.

Was steckt dahinter

Es hilft zu erkennen, wo jedes Unternehmen steht. Anthropic und OpenAI sind an oder nahe der Spitze, und eine koordinierte Verlangsamung sichert sich einen Vorsprung und reduziert gleichzeitig enorme Rechenkosten, eine Lektüre, die Axios festgestellt hat und die viele Online-Leute weniger höflich gemacht haben. Meta ist bei Grenzmodellen im Rückstand und hat viel Geld ausgegeben, um aufzuholen. Ein Pakt zur Lockerung ist also ein Pakt zum Einfrieren. Nichts davon macht jemanden unaufrichtig. Es bedeutet, dass „wir sollten alle langsamer werden“ und „wir sollten alle weitermachen“ beide genau mit der Position des Sprechers übereinstimmen, und es lohnt sich, im Hinterkopf zu behalten, welches Argument Sie auch immer überzeugender finden.

Was das für Sie bedeutet: An den Tools, die Sie diese Woche verwenden, ändert sich nichts. Was diese Debatte langsam entscheidet, ist, ob Sicherheit letztendlich etwas ist, was Unternehmen wählen, oder etwas, das Regeln fordern, und der ehrliche Stand der Dinge ist, dass dies derzeit weder das eine noch das andere ist: Es gibt keine Vereinbarung, kein Gesetz und eine öffentliche Meinungsverschiedenheit zwischen den vier oder fünf Leuten, die das machen könnten. Wenn Sie eine praktische Lektüre darüber wünschen, ob der Sicherheitsvortrag eines Labors echt ist, schauen Sie sich an, was dort veröffentlicht wird, und nicht, was darin steht. Modellkarten, verzögerte Veröffentlichungen und benannte Bewertungsergebnisse sind überprüfbar. Aufsätze sind es nicht.

Quellen

• CNBC: Mark Zuckerberg, CEO von Meta, unterstützt Huang von Nvidia in der Debatte über KI-Sicherheit und Verlangsamung
• Benzinga: Zuckerberg sagt, Meta habe Muse monatelang verzögert, um sich auf die KI-Sicherheit zu konzentrieren, und andere nicht gebeten, langsamer zu werden
• The Tribune: Mark Zuckerberg fordert eine verantwortungsvolle KI-Entwicklung