Nadella: pagas dos veces por la IA, una con dinero y otra con tus conocimientos
El consejero delegado de Microsoft critica que los laboratorios de IA prohíban la destilación mientras entrenan con los datos de todos los demás. Merece la pena entender su «paradoja inversa de la información», aunque Microsoft tenga sus propios motivos para promoverla.
Satya Nadella, consejero delegado de Microsoft, ha publicado una incisiva entrada de blog en la que acusa a laboratorios de IA como OpenAI y Anthropic de aplicar un doble rasero: entrenan sus modelos con los datos públicos de todo el mundo, alegando un uso legítimo, mientras prohíben que los demás aprendan de las respuestas de sus modelos.
La práctica en cuestión se denomina destilación: entrenar un modelo más pequeño y barato con las respuestas de otro mayor para que el modelo alumno absorba buena parte de la capacidad del profesor por una fracción del coste. Los grandes laboratorios la prohíben en sus condiciones de servicio, una norma dirigida principalmente a empresas chinas de IA acusadas de copiar a bajo coste los modelos estadounidenses. Nadella califica la situación de «irónica»: los mismos proveedores que aspiran los datos de la web pública, prohíben la destilación y aprenden de las interacciones con los clientes terminan concentrando el valor económico en ellos mismos, los operadores de la infraestructura, en vez de en las empresas que generan el conocimiento en primer lugar.
Da un nombre a esta dinámica: la «paradoja inversa de la información». Según su explicación, las empresas pagan dos veces por la IA. Primero con dinero y después con lo que denomina los «residuos»: las correcciones, valoraciones y pautas de uso que surgen al trabajar con sistemas de IA y revelan discretamente conocimientos internos de la empresa. «Al consumir inteligencia, estás creando inteligencia», escribe. Los proveedores de IA pueden aprender de todo ello y, en teoría, terminar creando productos competidores.
¿Qué hay detrás? Nadella tiene razón y también tiene sus propios intereses; ambas cosas pueden ser ciertas. La razón: ahora mismo, el flujo de conocimiento en la IA sí es unidireccional, y las condiciones de servicio tratan de forma muy distinta «nosotros aprendemos de ti» y «tú aprendes de nosotros». El interés: Microsoft vende precisamente la solución que su argumento da a entender, una infraestructura en la que las empresas controlan sus propios datos y su «ciclo de aprendizaje». Además, es la misma Microsoft que actualmente está retirando de forma gradual los modelos de OpenAI y Anthropic de sus productos Copilot para reducir costes. Cuando un consejero delegado escribe sobre filosofía, normalmente hay un embudo de ventas unido a ella.
Qué significa esto para ti: para la mayoría de los usuarios particulares, no demasiado; las correcciones de tus chats no son secretos comerciales. Pero si utilizas la IA en el trabajo, el enfoque de Nadella constituye una perspectiva realmente útil: cada corrección que escribes enseña al proveedor algo sobre el funcionamiento de tu empresa. Merece la pena comprobar qué dicen realmente las suscripciones de IA de tu empresa sobre el entrenamiento con tus datos; la mayoría de los niveles empresariales permiten excluirlos, y esa casilla importa más de lo que parece.
Fuentes
Fuentes: https://snscratchpad.com/posts/reverse-information-paradox/
La nueva guía de instrucciones de OpenAI: deja de darle vueltas y describe el resultado
OpenAI ha publicado una guía para dar instrucciones dirigida a usuarios cotidianos, no a desarrolladores. Cuatro componentes opcionales, unas cuantas barreras y un mensaje central: di lo que quieres, no cómo llegar hasta allí.
