posentrenamiento
Todo hecho a un modelo después del costoso entrenamiento base, para moldear su comportamiento.
La construcción de un modelo de lenguaje ocurre en dos fases amplias. Primero viene el entrenamiento previo, donde el modelo lee una enorme cantidad de texto y aprende cómo funciona el lenguaje. Esa es la parte que cuesta cientos de millones y sólo un puñado de organizaciones pueden permitírselo. La posformación lo es todo después de eso: enseñar al modelo a seguir instrucciones, a ser útil y seguro, o a especializarse en medicina, derecho o código.
El post-entrenamiento es comparativamente barato, razón por la cual los modelos de peso abierto son tan importantes. Si alguien publica un modelo base sólido, una empresa más pequeña puede entrenarlo posteriormente con los datos de su propio dominio y terminar con un verdadero especialista. Harvey hizo exactamente eso para construir Harvey Tenet encima de Kimi K3.