Le fondateur de Rocky Linux veut ouvrir la partie la plus secrète de l'IA : les données d'entraînement
OpenWALDO démarre avec 124 milliards de tokens issus de 75 millions de documents, chacun associé à une licence et une origine. L'idée : fournir avec chaque modèle une nomenclature comparable à celle d'un logiciel.
Depuis vingt-cinq ans, Gregory Kurtzer crée des projets open source devenus indispensables à d’autres, parmi lesquels CentOS, Singularity et Rocky Linux. Le 11 août, il en a lancé un nouveau consacré à la couche la plus fermée de l’IA moderne : les données d’entraînement. Baptisé OpenWALDO et soutenu par son entreprise CIQ, son corpus public indexe déjà 124 milliards de tokens de référence répartis entre 75,1 millions de documents, organisés en 20 collections et associés à 18 identifiants de licence déclarés.
Le nom est l’acronyme de Weights, Artifacts, Licenses, Data and Origins. Son principe : les « open weights » ne donnent que la moitié de l’histoire. Un laboratoire peut publier les poids d’un modèle, ce qui permet de le télécharger et de l’exécuter, sans révéler ce qui a servi à l’entraîner. Ces poids sont les millions de nombres appris pendant l’entraînement. Ils constituent le résultat, pas la recette. OpenWALDO consigne l’origine de chaque élément, les droits revendiqués, ses contributeurs et les octets précis associés à chaque version. Les modèles entraînés avec ce corpus peuvent alors être accompagnés d’une AI Bill of Materials, une nomenclature reliant le produit final à ses sources, ses licences et ses sessions d’entraînement.
La mécanique paraît volontairement banale, et c’est précisément l’objectif. L’index public se trouve dans Git : chaque modification peut être examinée et attribuée, comme le code open source depuis des décennies. Les données volumineuses sont réparties dans un stockage fédéré et vérifiées par des empreintes de contenu. Chacun peut ainsi confirmer que le fichier téléchargé correspond à celui qui a été examiné. Les contributeurs signent le Developer Certificate of Origin, le mécanisme de responsabilité également utilisé par le noyau Linux. Comme le résume Kurtzer, il ne s’agit pas d’inventer une nouvelle infrastructure de confiance, mais d’appliquer celle qui fonctionne déjà.
Presque tous les laboratoires d’IA collectent, nettoient et licencient aujourd’hui, chacun de leur côté, une grande partie des mêmes contenus, puis refusent d’en dévoiler la liste. Le secret tient à la concurrence, mais aussi au droit : les litiges sur les contenus récupérés pour l’entraînement se poursuivent devant les tribunaux. Un corpus commun et vérifiable éviterait aux petites équipes ce coûteux travail de fond et leur permettrait de se concentrer sur l’architecture et la sécurité. Il donnerait également aux acteurs en aval une réponse honnête à la question que les laboratoires esquivent : d’où vient ce contenu et qui en a autorisé l’utilisation ? Kurtzer reconnaît que le projet reste très loin de l’échelle des modèles de pointe. Ses 124 milliards de tokens forment un point de départ, pas un concurrent des milliers de milliards utilisés par les grands laboratoires.
Ce que cela signifie pour vous : rien ne change encore dans les outils que vous utilisez. Mais si vous vous êtes déjà demandé si votre article de blog ou la documentation de votre entreprise avait servi à entraîner un modèle, OpenWALDO essaie de construire l’infrastructure qui rendrait la réponse possible. Pour les entreprises de l’UE, la provenance passe progressivement du confort à l’obligation documentaire. Un corpus auquel les licences sont attachées mérite donc d’être suivi. Si vous souhaitez entraîner un petit modèle sur votre propre matériel, une chaîne dont vous pouvez vérifier la provenance de bout en bout constitue aussi un support d’apprentissage rare.
Sources
Un robot humanoïde peut désormais nettoyer votre appartement, sous le contrôle d'un humain en VR
Tau Robotics teste à San Francisco un service sur invitation à 30 dollars de l'heure. Les robots passent l'aspirateur et sortent les poubelles, mais ne montent pas les escaliers et sont le plus souvent pilotés par une personne.
