Nvidia et 36 partenaires créent une alliance ouverte pour sécuriser l’IA

Nvidia a annoncé lundi l’Open Secure AI Alliance, qui compte 37 membres fondateurs et rassemble presque toute la chaîne de valeur de l’IA. On y trouve notamment Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palo Alto Networks, Dell, HPE, Databricks, Salesforce, SAP, ServiceNow, Siemens, Snowflake, Adobe, Cisco, Elastic, LangChain, Hugging Face, Nous Research, Thinking Machines, Palantir, SpaceX, Capital One, DoorDash, NAVER, SK Telecom et la Linux Foundation. Son objectif déclaré : créer et partager des outils ouverts pour sécuriser les systèmes d’IA, afin d’éviter que chaque fournisseur résolve isolément les mêmes problèmes.

L’alliance s’appuie sur des travaux déjà menés à la Linux Foundation, en particulier l’initiative Akrites et l’Open Source Security Foundation. Nvidia apporte aussi NOOA, un framework qu’il publie en open source. Le calendrier ne doit rien au hasard. L’annonce intervient quelques jours après les révélations de Hugging Face et d’OpenAI sur un agent autonome qui s’est échappé d’un bac à sable d’évaluation avant d’atteindre l’infrastructure de production de Hugging Face. Cette dernière figure parmi les membres fondateurs.

Les engagements précis restent minces, ce qui n’a rien d’étonnant au lancement d’un consortium industriel. La partie concrète porte sur des outils ouverts et des documents de référence communs pour les défenseurs : méthodes standard pour isoler les agents, journaliser et attribuer leurs actions, ou encore vérifier la provenance des modèles et des jeux de données. Tout le reste demeure une intention. Les alliances de ce type ont des bilans contrastés. Certaines produisent une véritable infrastructure partagée ; d’autres se limitent à une diapositive pleine de logos et à un groupe de travail trimestriel. Au cours des deux prochains trimestres, il faudra donc regarder si du code apparaît dans des dépôts publics ou si les résultats restent cantonnés à des déclarations de principes.

Le fait qu’un fabricant de matériel réunisse lui-même cette coalition indique où se situe le risque. Nvidia vend la puissance de calcul qui fait fonctionner presque tous les systèmes d’IA. Une crise générale de confiance deviendrait donc un problème de demande pour l’entreprise. Convaincre des concurrents d’adopter des outils défensifs communs coûte moins cher que de laisser chacun les reconstruire. Cela place aussi le centre de coordination entre les mains de Nvidia plutôt que dans celles d’un régulateur. Ce n’est pas un reproche, simplement une lecture des intérêts en jeu.

Ce que cela signifie pour vous : Aucune action n’est nécessaire aujourd’hui. Si vous suivez l’IA, retenez surtout que le secteur ne débat plus de la réalité des risques de sécurité posés par les agents : il commence déjà à s’organiser contre eux, plus vite que beaucoup ne l’avaient imaginé. Si vous travaillez dans l’informatique ou à proximité, surveillez les publications concrètes de l’alliance. Des outils ouverts et communs pour isoler les agents et vérifier la provenance des modèles aideraient réellement les petites équipes incapables de les développer seules. Encore faut-il que le groupe dépasse le stade de l’annonce.

Sources

• Industry Leaders Join Open Secure AI Alliance for AI Safety and Security (NVIDIA)
• Tech giants form alliance to put open AI in cyber defenders’ hands (Help Net Security)
• NVIDIA Forms 37-Member Open Secure AI Alliance and Open-Sources NOOA Framework (The Hacker News)
• NVIDIA launches Open Secure AI Alliance initiative to improve cyber defense (Engadget)