Niemand hat bestanden: Das erste Zeugnis darüber, wie KI-Labore ihre eigenen Systeme überwachen
Guidelight bewertete Anthropic, OpenAI, Google, xAI und Meta anhand von sechs grundlegenden internen Kontrollpraktiken. Die beste Note war ein C plus, Meta bekam ein F und für die Beurteilung wurden nur öffentliche Dokumente herangezogen.
Eine gemeinnützige Organisation namens Guidelight veröffentlichte ihre erste Bewertung darüber, wie KI-Unternehmen die von ihnen intern betriebenen KI-Systeme kontrollieren, und die Schlagzeile ist eindeutig: Keines von ihnen wendet auch nur die grundlegenden Maßnahmen vollständig an. Anthropic und OpenAI führen mit einem C plus. Google folgt mit einem D plus und einer detaillierten Roadmap für Verbesserungen. xAI erhält ein D minus und Meta ein F.
Guidelight hat sechs Praxen überprüft und die Liste ist weniger exotisch, als Sie vielleicht erwarten. Protokolliert das Unternehmen, was seine internen KI-Systeme tun? Stehen riskante Aktionen hinter einem Überprüfungsschritt? Gibt es einen Not-Aus-Schalter, der in der Fachwelt als Stromkreisunterbrechung bezeichnet wird? Gibt es einen Plan zur Eindämmung eines Modells, das sich als falsch herausstellt, das heißt, dass ein Modell andere als die beabsichtigten Ziele verfolgt? Das Muster war bei allen fünf Unternehmen gleich: Sie sind am besten darin, zu bemerken, wenn etwas schief gelaufen ist, und am schlechtesten darin, es im Nachhinein zu verhindern oder einzudämmen. Guidelight wurde von zwei ehemaligen OpenAI-Sicherheitsleitern, Page Hedley und Steven Adler, gegründet und stützte sich ausschließlich auf öffentliches Material wie Systemkarten, Sicherheitsberichte und Blogbeiträge.
Dieses letzte Detail betrifft beide Seiten und ist hier der berechtigte Vorbehalt. Die Bewertung eines Unternehmens anhand dessen, was es veröffentlicht hat, belohnt eher Transparenz als tatsächliche Sicherheit. Ein Labor mit starken internen Kontrollen und der Angewohnheit, nichts zu sagen, würde schlecht abschneiden, während ein Labor, das lange Blogbeiträge über seinen Prozess schreibt, gut abschneiden würde. Guidelight ist diesbezüglich offen und es ist wohl der Punkt: Die Gruppe möchte, dass die öffentliche Dokumentation zur Norm wird, gerade damit eine externe Bewertung möglich wird. Der Grund dafür, dass dies jetzt von Bedeutung ist, liegt darin, dass Labore zunehmend ihre leistungsfähigsten Modelle selbst betreiben. Anthropic sagte, dass Claude den größten Teil des Codes in seinen Produktionssystemen schreibt, manchmal durch Agenten, die kontinuierlich laufen, ohne dass ein Mensch jeden Schritt beobachtet. Das Unternehmen, das sich selbst am besten bewertete, schaffte dennoch nur die Note C plus.
Was das für Sie bedeutet: Für die meisten Menschen ändert sich diese Woche nichts. Der Wert eines Berichts wie diesem besteht darin, dass er ein Scoreboard darstellt, das Sie in sechs Monaten noch einmal überprüfen können, und das ist genau das, was Guidelight beabsichtigt. Wenn Sie einen KI-Anbieter für die Arbeit auswählen, stellen die sechs Kriterien eine sinnvolle Checkliste dar, die Sie bei einem Anbieter anlegen sollten, und die ehrliche Antwort auf „Können Sie mir Ihre internen Kontrollen zeigen?“ verrät Ihnen viel. Und wenn Sie die Sicherheitsdebatte verfolgen, beachten Sie die Form des Ergebnisses: Erkennung ist der einfache Teil, Prävention und Eindämmung sind die schwierigen Teile, und das gilt auch für die normale IT-Sicherheit von Unternehmen.
Quellen
Quellen: https://guidelight.ai/blog/control-assessment-august-2026
OpenAI möchte Missbrauch erkennen, ohne jemals Ihre Daten zu sehen
OpenAI stellte Private Safety Processing vor, ein System, das Missbrauchsmuster in mehreren Gesprächen erkennen und gleichzeitig die Datenspeicherung für Geschäftskunden auf Null beschränken soll. Anthropic benötigt für seine stärksten Modelle immer noch 30 Tage Protokolle.
