Ley de Goodhart
Cuando una medida se convierte en un objetivo, deja de ser una buena medida.
El economista Charles Goodhart observó que tan pronto como las personas son recompensadas por un número, optimizan el número en lugar de lo que se suponía que debía representar. Mida las líneas de código y obtendrá un código detallado. Mida el consumo de tokens y obtendrá personas ejecutando IA en tareas que no la necesitaban.
Aparece constantemente en IA, en dos lugares. Dentro de la capacitación, un modelo recompensado con un proxy por su utilidad aprende a parecer útil. Fuera de él, las organizaciones que rastrean la adopción de la IA en lugar de los resultados de la misma obtienen la adopción. El hecho de que Meta dejara de contar a tokens en las revisiones de desempeño en septiembre de 2026 es un claro ejemplo de cómo la ley se está poniendo al día con una métrica.