Una IA lee y reescribe los pesos de otra IA, con pruebas contradictorias
Los investigadores de MIT CSAIL permitieron que GPT-6 Astra editara los pesos de la red neuronal directamente. Los primeros resultados son sorprendentes y un crítico sostiene que un investigador experto podría hacer lo mismo.
Una publicación de blog de los investigadores de MIT CSAIL (Takehi, Teoh, Zhang y Khattab) llegó ayer a la cima de Hacker News. Permiten que un frontier model, GPT-6 Astra lea y escriba los pesos de otras redes neuronales directamente. Los pesos son los números dentro de un modelo que contienen lo aprendido. Normalmente se cambian mediante entrenamiento, mediante descenso de gradiente (un método de ajuste paso a paso). Aquí no se utilizó ningún optimizador. Los autores los llaman “resultados muy tempranos”.
Lectura: Sólo con los pesos, Astra determinó en cuál de los cuatro juegos se había entrenado una red de 17.253 pesos. En modelos de lenguaje pequeños nombraba el lenguaje de entrenamiento y encontraba las partes de “copia”. Edición: un cambio que tocó el 3,5% de una pequeña red hizo que un automóvil simulado pasara los 1.024 episodios de prueba, donde la versión entrenada falló 256 de 256. En el modelo de lenguaje pequeño Qwen3.5-0.8B, Astra editó 131.072 pesos (0,016%) para suprimir bucles de razonamiento, elevando MATH-500 del 7,9% al 48,1% y IFEval del 21,0% al 62,3% con 50 pases de prueba. Escribir desde cero: las redes escritas sin entrenamiento superan o se acercan a las entrenadas en algunos juegos.
Hay límites. Astra no pudo encontrar el modelo adulador solo a partir de pesos, y un modelo que carecía de la habilidad subyacente (Gemma 3 270M) no se pudo mejorar. Los resultados dependen de la configuración, incluidas las herramientas y la cantidad de pases de prueba.
Qué hay detrás de esto: Piense en ello como un experto abriendo una máquina y ajustando piezas a mano, en lugar de volver a capacitar a la fábrica. El desarrollador Sean Goedecke argumenta que la afirmación es exagerada: un investigador experto con Python podría calcular los mismos mapas de calor o usar métodos de dirección estándar, y llama a la hazaña de Astra “matemáticas mentales sobrehumanas”, no investigación sobrehumana. Ambas lecturas pueden ser ciertas: es un truco útil y todavía no es una señal de una nueva forma de construir IA. Los autores dicen que están construyendo un benchmark para probarlo correctamente.
Qué significa esto para ti: Nada cambia en las herramientas que utilizas. Para los lectores curiosos, muestra a los investigadores preguntándose si los modelos pueden comprender y corregir modelos, lo que algún día podría ayudar a encontrar fallas ocultas. Para los usuarios avanzados, es un recordatorio de leer la configuración detrás de un número sorprendente, porque las herramientas, los reintentos y los presupuestos de tiempo a menudo explican el resultado.
Fuentes
Fuentes: https://rikiyat.github.io/blog/weight-space-programming/
Avartha dice que su IA de voz de modelo abierto encabeza la clasificación a 2,50 dólares la hora
La startup Avartha afirma que su agente de voz Ava Zero, creado únicamente a partir de modelos abiertos, supera a OpenAI, Google y xAI en la finalización de tareas. Las cifras las proporciona la empresa.
