Massachusetts will alle vier Monate unabhängige Prüfungen von Frontier-Modellen, und die Labore sind sich darüber nicht einig
Anthropic unterstützt einen Gesetzesentwurf des Bundesstaates, der externe Gutachter verpflichtet, große Modelle dreimal im Jahr auf Katastrophenrisiken zu überprüfen. OpenAI und Google wollen etwas näher an die jährliche Prüfung von Illinois herangehen und warnen vor einem Flickenteppich staatlicher Vorschriften.
Ein Gesetzentwurf, der dem Senat von Massachusetts vorgelegt wird, sieht vor, dass große KI-Entwickler alle vier Monate unabhängige Gutachter beauftragen, ihre Modelle auf Katastrophenrisiken zu bewerten. Das Ungewöhnliche ist nicht die Regel. Es ist so, dass die Branche darüber öffentlich gespalten ist: Anthropic ist dafür, OpenAI und Google sind dagegen.
Die KI-Sprache ist Teil eines umfassenderen Gesetzes zur wirtschaftlichen Entwicklung. Cesar Fernandez, Anthropic-Chef für Beziehungen zu US-Bundesstaaten und Kommunalverwaltungen, schrieb, als der Senat seine Version verabschiedete, dass sie „die Messlatte für die KI-Sicherheit höher legt und gleichzeitig sicherstellt, dass Innovationen fortgesetzt werden können“. Sicherheitsorganisationen wie Encode und das Secure AI Project haben Unterstützungsschreiben an das Konferenzkomitee geschickt.
OpenAI schrieb letzten Monat an den Gesetzgeber und plädierte für etwas, das eher einem Gesetzentwurf von Illinois ähnelt, der jährliche Sicherheitsüberprüfungen durch Dritte anstelle von drei pro Jahr vorsieht. Sein Einwand betrifft weniger die Prüfung selbst als vielmehr die Arithmetik: Wenn jeder Staat seine eigene Version schreibt, sehen sich Entwickler mit dem konfrontiert, was OpenAI als „fragmentierte Aufsicht“ bezeichnet, und mit einem „unerfreulichen Ergebnis“.
Was steckt dahinter
Eine unabhängige Bewertung bedeutet hier, dass eine externe Organisation, nicht das eigene Sicherheitsteam des Labors, ein Modell auf die Worst-Case-Fähigkeiten testet: Unterstützung beim Waffenbau, Durchführung groß angelegter Cyberangriffe usw. Es ist wichtig, dies alle vier Monate statt jährlich zu tun, da Frontier-Modelle jetzt schneller ausgeliefert werden. Bei einer jährlichen Prüfung können zwei Modellgenerationen fehlen.
Die Staaten ziehen um, weil Washington es nicht tut. Der Kongress lehnte ein vorgeschlagenes zehnjähriges Moratorium für staatliche KI-Gesetze im Jahr 2025 ab, und ein späterer Versuch, Präemptionsklauseln in die Verteidigungsgesetze aufzunehmen, scheiterte ebenfalls. Rhode Island hat im Juni Chatbot-Sicherheitsmaßnahmen eingeführt, Kalifornien arbeitet an Audits und Datenschutz und Utah und South Carolina sind wieder an der Online-Sicherheit von Kindern beteiligt. Massachusetts wäre das strengste von allen.
Es hilft auch, den kommerziellen Aspekt zu berücksichtigen. Anthropic hat seine Marktposition darauf aufgebaut, das Safety-Forward-Labor zu sein. Daher verursachen Regeln, die eine Bewertung durch Dritte verpflichtend vorschreiben, Kosten, die seine Konkurrenten nicht bezahlt haben, und das größtenteils auch. Das macht seine Position nicht unaufrichtig. Das bedeutet, dass die Spaltung nicht nur eine Meinungsverschiedenheit über die Ethik ist.
Was das für Sie bedeutet: Diesen Monat werden Sie nichts bemerken. Aber in den USA findet die KI-Regulierung tatsächlich nach staatlichen Regeln statt, und der Rhythmus, den Massachusetts wählt, wird wahrscheinlich kopiert werden. Für alle, die auf diesen Modellen aufbauen, bedeutet ein viermonatiger Auditzyklus, dass die Sicherheitsdokumentation, auf die Sie sich verlassen, häufiger aktualisiert wird, was wirklich nützlich ist. Für alle anderen ist dies sehenswert, da es der erste Fall ist, in dem die großen Labore offen gegeneinander Lobbyarbeit bezüglich Sicherheitsregeln betreiben.
Quellen
Das US-Justizministerium teilt einem Gericht mit, dass die Schulung von KI für urheberrechtlich geschützte Bücher eine faire Verwendung sei
Im konsolidierten Fall der New York Times gegen OpenAI und Microsoft stellte sich das DOJ auf die Seite der KI-Unternehmen und widersprach direkt dem Bericht des US Copyright Office, dessen Autor letztes Jahr entlassen wurde.
