DeepMinds Hassabis will einen KI-Schiedsrichter nach Vorbild der Wall-Street-Aufsicht

Demis Hassabis, Chef von Google DeepMind, hat einen detaillierten Vorschlag zur Steuerung fortgeschrittener KI veröffentlicht, sein Vorbild kommt aus der Finanzwelt. Er möchte eine neue US-Standardorganisation nach dem Muster der FINRA, der von der Branche finanzierten Aufsicht für Wertpapiermakler, als Schiedsrichter für die leistungsfähigsten KI-Modelle.

Die Organisation soll Bewertungsprotokolle für Spitzenmodelle entwickeln, also die wenigen leistungsfähigsten Systeme der größten Labore, zunächst freiwillig und später verpflichtend. Sie würde von der Branche selbst finanziert und auf regelmäßig aktualisierte Benchmarks setzen: standardisierte Tests, was Modelle sicher können und nicht können. Zeigen die Bewertungen etwas Beunruhigendes, könnte sie eine branchenweite Verlangsamung der Entwicklung koordinieren. Zwei Entscheidungen stechen heraus: Start-ups und akademische Forschungsmodelle wären ausgenommen, um den Vorwurf regulatorischer Vereinnahmung zu entschärfen, bei der große Firmen die Leiter hinter sich hochziehen. Außerdem rahmt Hassabis alles mit Unsicherheit statt Untergang: Niemand wisse sicher, was als Nächstes passiere, auch Experten seien uneins. Bei hohen Einsätzen und geringer Gewissheit sei „vorsichtiger Optimismus“, vorangehen und Leitplanken bauen, das Rezept.

Was dahintersteckt: Der Zeitpunkt fällt auf. Tage zuvor warnten mehr als 200 Ökonomen und KI-Forscher, darunter 16 Nobelpreisträger, in einem Brief, das Zeitfenster zur Vorbereitung auf die wirtschaftlichen Folgen der KI schließe sich. Hassabis unterschrieb nicht, doch sein Vorschlag liest sich wie eine konkrete Antwort auf den abstrakten Alarm. Er wiederholt auch seine Ansicht, künstliche allgemeine Intelligenz, die Menschen in den meisten Aufgaben entspricht, sei wahrscheinlich nur wenige Jahre entfernt. Erwartungen sollten aber geerdet bleiben: Experten sind wirklich uneins. Yann LeCun nannte allgemeine Intelligenz auf Basis von Sprachmodellen „kompletten Blödsinn“, und Turing-Preisträger Rich Sutton gründete gerade ein Labor auf der Annahme, heutige Methoden bräuchten eine grundlegende Überarbeitung. Der Vorschlag eines Laborchefs ist ein erstes Angebot, kein Plan mit politischem Schwung; eine Organisation, die Entwicklung verlangsamen könnte, bräuchte Zustimmung, die noch nicht existiert.

Was das für dich bedeutet: Heute ändert sich nichts. Es ist aber ein nützliches Signal: Die Menschen, die die leistungsfähigsten KI-Systeme bauen, entwerfen nun öffentlich Bremsen für die eigene Branche und streiten darüber, welche Institutionen sie halten sollen. Erhält KI eine Aufsicht nach FINRA-Art, werden Entscheidungen über erlaubte Modellfähigkeiten durch Testprotokolle und Standardorganisationen getroffen, weitgehend außerhalb der Öffentlichkeit. Zu wissen, dass diese Debatten existieren, ist der erste Schritt, selbst mitreden zu können.

Quellen

• Hassabis über X
• The Decoder