Un'intelligenza artificiale legge e riscrive i pesi di un'altra intelligenza artificiale, con prove contrastanti
I ricercatori di MIT CSAIL consentono a GPT-6 Astra di modificare direttamente i pesi della rete neurale. I primi risultati sono sorprendenti e un critico sostiene che un ricercatore esperto potrebbe fare lo stesso.
Un post sul blog dei ricercatori MIT CSAIL (Takehi, Teoh, Zhang e Khattab) è arrivato ieri in cima a Hacker News. Consentono a un frontier model, GPT-6 Astra di leggere e scrivere direttamente i pesi di altre reti neurali. I pesi sono i numeri all’interno di un modello che contengono ciò che ha imparato. Normalmente vengono modificati con l’allenamento, attraverso la discesa del gradiente (un metodo di regolazione passo dopo passo). Qui non è stato utilizzato alcun ottimizzatore. Gli autori chiamano questi “risultati molto precoci”.
Lettura: solo dai pesi, Astra ha calcolato su quale dei quattro giochi si era allenata una rete da 17.253 pesi. Nei piccoli modelli linguistici ha nominato la lingua di addestramento e ha trovato le parti “copiate”. Modifica: una modifica che ha toccato il 3,5% di una piccola rete ha fatto sì che un’auto simulata superasse tutti i 1.024 episodi di test, dove la versione addestrata ha fallito 256 su 256. Nel modello linguistico piccolo Qwen3.5-0.8B, Astra ha modificato 131.072 pesi (0,016%) per sopprimere i cicli di ragionamento, aumentando MATH-500 dal 7,9% a 48,1% e IFEval dal 21,0% al 62,3% con 50 passaggi di prova. Scrittura da zero: reti scritte senza battuta di allenamento o vicine a quelle allenate su alcune partite.
Ci sono dei limiti. Astra non è riuscito a trovare il modello servile solo dai pesi e un modello privo dell’abilità sottostante (Gemma 3 270M) non poteva essere migliorato. I risultati dipendono dalla configurazione, inclusi gli strumenti e il numero di passaggi del test.
Cosa c’è dietro: Consideralo come un esperto che apre una macchina e regola manualmente le parti, invece di riqualificare la fabbrica. Lo sviluppatore Sean Goedecke sostiene che l’affermazione è esagerata: un ricercatore esperto con Python potrebbe calcolare le stesse mappe di calore o utilizzare metodi di guida standard, e chiama l’impresa di Astra “matematica mentale sovrumana”, non ricerca sovrumana. Entrambe le letture possono essere vere: si tratta di un trucco utile e non ancora di un nuovo modo di costruire l’intelligenza artificiale. Gli autori affermano che stanno costruendo uno benchmark per testarlo correttamente.
Che cosa significa per te: Non cambia nulla negli strumenti che utilizzi. Per i lettori curiosi, mostra i ricercatori che chiedono se i modelli possono comprendere e correggere i modelli, il che un giorno potrebbe aiutare a trovare difetti nascosti. Per gli utenti esperti, è opportuno ricordare di leggere la configurazione dietro un numero sorprendente, poiché strumenti, tentativi e budget di tempo spesso spiegano il risultato.
Fonti
Fonti: https://rikiyat.github.io/blog/weight-space-programming/
Avartha afferma che la sua intelligenza artificiale vocale a modello aperto è in cima alla classifica a $ 2,50 l'ora
La startup Avartha afferma che il suo agente vocale Ava Zero, costruito solo a partire da modelli aperti, batte OpenAI, Google e xAI nel completamento delle attività. I dati sono riportati dall'azienda.
