post-entraînement
Tout est fait pour un modèle après une formation de base coûteuse, pour façonner son comportement.
La construction d’un modèle de langage se déroule en deux grandes phases. Vient d’abord la pré-formation, au cours de laquelle le modèle lit une énorme quantité de texte et apprend comment fonctionne la langue. C’est la partie qui coûte des centaines de millions et que seule une poignée d’organisations peuvent se permettre. La post-formation est tout ce qui suit : apprendre au modèle à suivre des instructions, à être utile et sûr, ou à se spécialiser en médecine, en droit ou en code.
La post-formation est relativement bon marché, c’est pourquoi les modèles à poids ouvert sont si importants. Si quelqu’un publie un modèle de base solide, une petite entreprise peut le post-former sur ses propres données de domaine et se retrouver avec un véritable spécialiste. C’est exactement ce que Harvey a fait pour construire Harvey Tenet au-dessus de Kimi K3.