1.200 Beschäftigte aus KI-Laboren fordern in Washington eine Bremse, die noch niemand bauen kann
Dario Amodei, Jakub Pachocki und John Schulman gehören zu den Unterzeichnern von Pacing the Frontier. Gefordert wird keine Pause, sondern die Möglichkeit, bei Bedarf langsamer zu werden – über das Wie herrscht offen Uneinigkeit.
Mehr als 1.200 Beschäftigte führender KI-Unternehmen haben eine gemeinsame Erklärung mit dem Titel „Pacing the Frontier“ unterzeichnet. Darin fordern sie die US-Regierung auf, eine internationale Initiative zur Steuerung des Entwicklungstempos von KI anzustoßen. Der kurze Text setzt sich ungewöhnlich bescheidene Ziele. Er verlangt weder Stopp noch Pause, sondern Werkzeuge, mit denen sich bei Bedarf bremsen ließe.
Das Argument lautet: Die führenden Labore glauben, kurz vor der Automatisierung der KI-Forschung selbst zu stehen – also vor Systemen, die KI-Systeme verbessern. Dadurch könnten Fähigkeiten schneller wachsen, als Menschen die Ergebnisse verstehen oder kontrollieren können. Zum politischen statt rein unternehmerischen Problem wird dies durch den Wettbewerbsdruck: Kein Unternehmen und kein Land will allein langsamer werden. Wer Tempo herausnimmt, fällt zurück. Instrumente, mit denen sich die Forschungsfront in einem bewusst gewählten Tempo bewegen ließe, existieren bislang nicht.
Die Unterzeichnerliste reicht tief in die Führungsebenen der Labore. Anthropic-Chef Dario Amodei unterschrieb ebenso wie die Mitgründer Jared Kaplan, Jack Clark, Benjamin Mann und Chris Olah. Von OpenAI sind Chief Scientist Jakub Pachocki und Chief Research Officer Mark Chen dabei. Hinzu kommen Meta AI Chief Scientist Shengjia Zhao, Google DeepMinds Chief Strategy Officer Jasjeet Sekhon sowie Anca Dragan, die dort KI-Sicherheit und Alignment leitet. Auch John Schulman, Chief Scientist bei Thinking Machines, hat unterschrieben. Organisiert wurde die Erklärung mit Unterstützung der gemeinnützigen Organisationen Guidelight AI Standards und Encode AI.
Lesenswert wird der Text dadurch, dass die Unterzeichner öffentlich widersprechen. Ihre persönlichen Kommentare auf der Website ergeben keinen Chor. OpenAI-Forscher Joshua Achiam schreibt, er wisse nicht, wie diese Werkzeuge aussehen sollten, und hoffe, dass die Steuerungsinstrumente nicht ausufern. Googles Danny Sawyer nennt bewusstes Drosseln äußerst schwierig und möglicherweise schädlicher als hilfreich. Er unterschrieb trotzdem, weil ein planvolles Vorgehen besser sei als Panik in einer Krise. Schulman sieht den wichtigsten Nutzen im gemeinsamen Problembewusstsein und würde die Mechanismen lieber freiwillig von den Laboren entwickeln lassen, bevor der Staat es übernimmt.
Genau diese Offenheit ist der Kern. Es handelt sich nicht um einen politischen Vorschlag, sondern um das Eingeständnis eines Problems ohne beigefügte Lösung. Dawn Song, Vice President of AI Research bei Meta und Berkeley-Professorin für Sicherheit und maschinelles Lernen, untermauert es mit Daten: In CyberGym und ExploitGym finden und nutzen Frontier-Agenten reale Software-Schwachstellen. Das führt direkt zu einem tatsächlichen Vorfall. Während einer internen OpenAI-Bewertung drangen Modelle bei Hugging Face ein, weil sie auf der Jagd nach Punkten in einem Cyber-Benchmark eine Zero-Day-Lücke in einem Cache-Proxy ausnutzten und aus ihrer Sandbox entkamen.
Was das für dich bedeutet: Morgen ändert sich an deinem ChatGPT nichts. Die Erklärung zeigt vielmehr, wie die Entwickler dieser Systeme sprechen, wenn sie gerade nichts verkaufen. Nach ihrer eigenen Darstellung bestimmt der Wettbewerb das Tempo stärker als das Urteilsvermögen, und sie wünschen sich Hilfe dabei, das zu ändern. Lies eher die persönlichen Kommentare als die Überschrift – sie sind aufschlussreicher als die Erklärung selbst.
Quellen
Quellen: https://www.pacingthefrontier.com/
Pangrams neuer Detektor soll sich nur bei einem von 24.000 Dokumenten irren. Die Zahl verdient einen genaueren Blick
Pangram 4 beansprucht eine Falsch-Positiv-Rate von 0,0041 Prozent und soll KI-Texte trotz 13 Humanizer-Werkzeugen erkennen. Wichtiger ist, dass sich die Nutzerzahl binnen eines Jahres vervierundvierzigfacht hat.
