El fundador de Rocky Linux quiere abrir la única parte de la IA que nadie abre: los datos de entrenamiento
OpenWALDO arranca con 124.000 millones de tokens en 75 millones de documentos, cada uno asociado a una licencia y un origen. La idea es que cada modelo incluya una lista de componentes, como ocurre con el software.
Gregory Kurtzer ha pasado veinticinco años iniciando proyectos de código abierto de los que otras personas terminaron dependiendo, incluidos CentOS, Singularity y Rocky Linux. El 11 de agosto lanzó uno nuevo dirigido directamente a la capa menos abierta de la IA moderna: los datos de entrenamiento. Se llama OpenWALDO, está patrocinado por su empresa CIQ y su corpus público ya indexa 124 mil millones de tokens de referencia en 75,1 millones de documentos, organizados en 20 colecciones con 18 identificadores de licencia afirmados.
El nombre corresponde a Weights, Artifacts, Licenses, Data and Origins. Su argumento es que los «open weights» solo cubren la mitad del camino. Cuando un laboratorio publica los pesos de un modelo, puedes descargarlo y ejecutarlo, lo cual resulta útil, pero sigues sin saber qué se utilizó para crearlo. Los pesos son los millones de números que el modelo aprende durante el entrenamiento: el resultado, no la receta. OpenWALDO registra el origen de cada material, los derechos atribuidos, quién lo aportó y qué bytes pertenecen exactamente a cada versión. Los modelos entrenados con el corpus pueden distribuirse con una AI Bill of Materials, una lista de componentes que vincula el modelo final con sus fuentes, licencias y sesiones de entrenamiento.
La maquinaria detrás de esto es deliberadamente aburrida, y ese es el punto. El índice público reside en Git, por lo que cada cambio se puede revisar y atribuir de la misma forma en que la revisión de código ha funcionado en código abierto durante décadas. Los datos masivos se almacenan en un almacenamiento federado y se verifican mediante hashes de contenido, por lo que puede comprobar que lo que descargó es lo que se revisó. Los contribuyentes firman bajo el Certificado de origen de desarrollador, el mismo mecanismo de responsabilidad que utiliza el kernel de Linux. Como dice Kurtzer, no están inventando una nueva infraestructura fiduciaria, sino que están aplicando infraestructura que ya funciona.
Aquí está el contexto más amplio. Casi todos los laboratorios de IA hoy en día recopilan, limpian y otorgan licencias por separado gran parte del mismo material subyacente, y luego se niegan a decir cuál era. Ese secreto es en parte competitivo y en parte legal, ya que las cuestiones de derechos de autor en torno a los datos de entrenamiento extraídos todavía están abriéndose camino en los tribunales. Un corpus compartido y auditable permitiría a los equipos más pequeños omitir el costoso trabajo fundamental y dedicar su esfuerzo a la arquitectura y la seguridad. También le daría a cualquiera una respuesta honesta a la pregunta que los laboratorios siguen esquivando: ¿de dónde vino esto y quién dijo que se podía utilizar? Kurtzer es sincero en cuanto a que lo que existe hoy no se acerca en absoluto a una escala fronteriza. 124 mil millones de tokens es un punto de partida, no un competidor de los billones con los que se entrenan los grandes laboratorios.
Qué significa esto para ti: por ahora no cambia nada en las herramientas que utilizas. Pero si alguna vez te has preguntado si una entrada de tu blog o la documentación de tu empresa acabaron dentro de un modelo, OpenWALDO intenta construir la infraestructura necesaria para responder. Para las empresas de la UE, la procedencia está pasando de ser un dato conveniente a convertirse en documentación obligatoria, así que merece la pena seguir un corpus con licencias vinculadas. Si quieres entrenar un modelo pequeño en tu propio equipo, una cadena cuya procedencia puedas inspeccionar de principio a fin también es un recurso de aprendizaje poco común.
Fuentes
Ya puedes contratar un robot humanoide para limpiar tu piso, guiado por una persona con gafas de realidad virtual
Tau Robotics ha abierto en San Francisco un programa piloto por invitación a 30 dólares la hora. Los robots aspiran y sacan la basura, pero no suben escaleras y una persona los guía casi todo el tiempo.
