Training data

Los datos de entrenamiento son todo lo que un modelo ha visto mientras se construía: páginas web, libros, repositorios de código, imágenes y transcripciones. El modelo no almacena esos archivos. Ajusta millones de números internos, sus pesos del modelo, hasta aprender a predecir lo que viene después en materiales parecidos. Todo lo que parece saber un modelo se remonta a sus datos de entrenamiento, y por eso sus puntos ciegos y sesgos suelen reflejar sus fuentes.

Es la capa menos transparente de la IA moderna. La mayoría de los laboratorios cuenta el tamaño de un modelo y sus resultados en las pruebas, pero no qué se utilizó para entrenarlo, en parte por razones de competencia y en parte porque las cuestiones de derechos de autor sobre el material recopilado siguen en los tribunales. Proyectos como OpenWALDO intentan cambiarlo creando corpus donde cada documento lleva una licencia y un origen.