Amodei: Werbung löst das Vertrauensproblem der KI nicht, Krebsheilung vielleicht schon
Anthropics Chef räumte ein, dass die Branche ihre großen Versprechen nicht erfüllt hat, und befürwortete eine zentrale Aufsicht nach Vorbild der FINRA. Für den Leiter eines Spitzenlabors ist das ungewöhnlich.
In einem langen Beitrag auf X schrieb Anthropics Geschäftsführer Dario Amodei am Samstag, KI-Unternehmen hätten „unsere großen Versprechen zum Nutzen der Welt noch nicht erfüllt“. Das Kernproblem der Branche sei nicht die Kommunikation, sondern institutionelles Misstrauen. Sein Rezept bestand aus zwei Teilen, die beide für den Leiter eines Spitzenlabors bemerkenswert sind.
Der erste betrifft Regulierung. Amodei befürwortete eine zentrale KI-Aufsicht nach Vorbild der FINRA, die amerikanische Wertpapierhändler überwacht. Die FINRA ist eine Selbstregulierungsorganisation: eine von der Branche finanzierte Stelle mit echten Durchsetzungsbefugnissen zwischen Unternehmen und Staat. Das ist ein konkreter und etwas unbequemer Vorschlag, denn er ist weder die lockere Selbstkontrolle, die Labore gewöhnlich bevorzugen, noch die direkte staatliche Regulierung, gegen die viele von ihnen lobbyieren.
Der zweite Teil betrifft die öffentliche Meinung. Werbung werde nicht funktionieren, argumentierte Amodei. „Was funktionieren wird, ist tatsächlich Krebs zu heilen.“ Er verwies auf Anthropics Programm AI for Science und erste Anzeichen biologischer Durchbrüche als einzigen glaubwürdigen Weg zurück zu öffentlichem Vertrauen.
Wohlwollend gelesen ist das eine ehrliche Bestandsaufnahme. Skeptisch gelesen ist es auch ein bequemes Argument. Eine FINRA-ähnliche Organisation würde von den größten etablierten Unternehmen finanziert und stark geprägt. Und „beurteilt uns nach künftigen medizinischen Durchbrüchen“ verschiebt die Verantwortung bequem. Beide Lesarten können zugleich stimmen. Auch der Zeitpunkt zählt: Der Beitrag erschien wenige Tage, nachdem Anthropics Risikobericht seine Einschätzung einer Fehlanpassung von sehr niedrig auf niedrig anhob, und in derselben Woche ergab eine CNBC-Umfrage, dass große Mehrheiten der 18- bis 34-jährigen Amerikaner den bekanntesten Führungskräften der Branche kein verantwortungsvolles Handeln zutrauen. Das Vertrauensproblem ist messbar, nicht hypothetisch.
Wirklich neu ist, dass der Chef eines Spitzenlabors diese Lücke öffentlich einräumt, statt zu behaupten, der Nutzen sei längst offensichtlich. Drei Jahre lang lautete die Standardbotschaft, die Technik spreche für sich und die Öffentlichkeit werde schon aufholen. Das hier ist das Gegenteil, und es kommt von jemandem mit einem starken Anreiz, es nicht zu sagen.
Was das für dich bedeutet: Diese Woche ändert sich kein Produkt, und sowohl beim Versprechen als auch beim Zynismus ist Vorsicht angebracht. Ein Chatbot heilt dieses Jahr keinen Krebs, und „erste Anzeichen“ trägt viel Gewicht in diesem Satz. Beobachtenswert ist der Regulierungsvorschlag, denn eine FINRA-ähnliche Stelle ist eine konkrete institutionelle Idee statt eines Schlagworts. Einigt sich die Branche darauf, werden wir Jahrzehnte mit dem Ergebnis leben. Es ist auch ein guter Moment, die eigene Haltung wahrzunehmen. Misstrauen gegenüber KI-Unternehmen ist nicht irrational, und der Leiter eines solchen Unternehmens hat dir gerade zugestimmt.
Quellen
Google schaltet heute drei Imagen-4-Modelle ab
Für drei Imagen-4-API-Endpunkte ist der 17. August der frühestmögliche Abschalttermin. Der Ersatz lässt sich nicht einfach austauschen, denn die bisherige Methode zur Bilderzeugung entfällt vollständig.
