EleutherAI
Un laboratoire de recherche à but non lucratif qui crée des modèles d'IA et des ensembles de données de formation sous licence ouverte, gérés en grande partie par des bénévoles.
EleutherAI a débuté en 2020 en tant que groupe de bénévoles sur Discord qui souhaitaient reproduire les grands modèles linguistiques que les entreprises gardaient privés, et est devenu un institut de recherche enregistré à but non lucratif. Ses premières versions, GPT-Neo et GPT-J, ont été parmi les premières alternatives ouvertes à GPT-3, et son ensemble de données Pile est devenu un ingrédient standard dans la formation de modèles ouverts.
Son travail le plus utile est aujourd’hui souvent du genre peu glamour : nettoyer la matière première sur laquelle tout le monde s’appuie. Common Pile, publié en 2025, est le plus grand corpus de formation entièrement assemblé à partir de textes sous licence ouverte. En 2026, le laboratoire a travaillé avec Hugging Face sur FineBooks, qui teste si les modèles modernes de reconnaissance de texte peuvent produire des versions plus propres des millions de livres numérisés du domaine public sur lesquels s’appuient les ensembles de données ouvertes.