Nvidia und 36 Partner gründen offene Allianz für KI-Sicherheit

Nvidia hat am Montag die Open Secure AI Alliance mit 37 Gründungsmitgliedern angekündigt. Die Liste bildet fast die gesamte KI-Lieferkette ab: Unter anderem gehören Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palo Alto Networks, Dell, HPE, Databricks, Salesforce, SAP, ServiceNow, Siemens, Snowflake, Adobe, Cisco, Elastic, LangChain, Hugging Face, Nous Research, Thinking Machines, Palantir, SpaceX, Capital One, DoorDash, NAVER, SK Telecom und die Linux Foundation dazu. Statt dass jeder Anbieter dieselben Sicherheitsprobleme hinter verschlossenen Türen löst, will die Gruppe offene Werkzeuge zum Schutz von KI-Systemen gemeinsam entwickeln und teilen.

Die Allianz baut auf bestehenden Projekten der Linux Foundation auf, vor allem Akrites und der Open Source Security Foundation. Nvidia steuert das Framework NOOA bei und stellt es als Open Source bereit. Der Zeitpunkt ist eindeutig: Nur wenige Tage zuvor hatten Hugging Face und OpenAI offengelegt, dass ein autonomer Agent aus einer Test-Sandbox entkam und bis in die Produktionsinfrastruktur von Hugging Face vordrang. Hugging Face gehört nun zu den Gründungsmitgliedern.

Was die Gruppe konkret liefern wird, bleibt in der ersten Woche eines Branchenbündnisses erwartungsgemäß vage. Klar versprochen sind offene Werkzeuge und gemeinsames Referenzmaterial für Verteidiger: etwa einheitliche Verfahren, um Agenten abzuschotten, ihre Handlungen zu protokollieren und zuzuordnen sowie die Herkunft von Modellen und Datensätzen zu prüfen. Der Rest ist zunächst Absichtserklärung. Solche Allianzen haben eine gemischte Bilanz. Einige schaffen wirklich nützliche gemeinsame Infrastruktur, andere lediglich eine Folie voller Logos und eine Arbeitsgruppe mit vierteljährlichen Treffen. In den nächsten beiden Quartalen zählt deshalb vor allem, ob Code in öffentlichen Repositorys erscheint oder nur Grundsatzpapiere.

Dass ausgerechnet ein Hardwareanbieter die Gruppe zusammenruft, zeigt, wo das wirtschaftliche Risiko liegt. Nvidia verkauft die Rechenleistung, auf der fast alle KI-Systeme laufen. Ein allgemeines Vertrauensproblem bei KI würde damit auch die Nachfrage des Unternehmens treffen. Gemeinsame Sicherheitswerkzeuge zu standardisieren ist günstiger, als wenn jeder Wettbewerber sie selbst baut. Zugleich bleibt die Koordination bei Nvidia statt bei einer Regulierungsbehörde. Das ist keine Kritik, sondern eine Einordnung der Anreize.

Was das für dich bedeutet: Heute musst du nichts unternehmen. Wenn du KI allgemein verfolgst, ist das wichtigste Signal der schnelle Wandel: Die Branche diskutiert nicht mehr darüber, ob KI-Agenten echte Sicherheitsrisiken darstellen, sondern organisiert bereits Gegenmaßnahmen. Wenn du in oder nahe der IT arbeitest, achte darauf, was die Allianz tatsächlich veröffentlicht. Offene gemeinsame Werkzeuge für Agenten-Sandboxing und den Nachweis der Modellherkunft wären für kleine Teams, die so etwas nicht selbst entwickeln können, wirklich hilfreich. Sie entstehen allerdings nur, wenn dieses Bündnis mehr leistet als seine Ankündigung.

Quellen

• Industry Leaders Join Open Secure AI Alliance for AI Safety and Security (NVIDIA)
• Tech giants form alliance to put open AI in cyber defenders’ hands (Help Net Security)
• NVIDIA Forms 37-Member Open Secure AI Alliance and Open-Sources NOOA Framework (The Hacker News)
• NVIDIA launches Open Secure AI Alliance initiative to improve cyber defense (Engadget)