Meta ha dato al suo agente IA un secondo agente con un solo compito: ricordare

Chiunque abbia osservato un agente IA alle prese con un compito lungo ha visto questo schema. All’inizio accetta un vincolo, poi un’ora dopo lo infrange senza accorgersene mentre sistema qualcos’altro. Esegue un comando, riceve un errore e qualche minuto dopo prova un comando quasi identico. Diagnostica un problema, lo incontra di nuovo e lo tratta come se fosse una novità. I ricercatori di Meta AI hanno chiamato questo fenomeno behavioral state decay e hanno pubblicato un sistema per affrontarlo.

La loro diagnosi è che le informazioni che guidano le decisioni dell’agente si disperdano in una cronologia sempre più lunga. Finiscono sepolte nel context window, cioè più o meno la quantità di testo che il modello riesce a tenere a mente in una volta, oppure spariscono del tutto. Meta sottolinea che allungare semplicemente la memoria non risolve il problema: anche quando la riga utile è ancora tecnicamente nella trascrizione, smette di influenzare ciò che l’agente fa.

La soluzione proposta affianca a un normale agente d’azione un agente della memoria separato. Ogni pochi passaggi quest’ultimo esamina la cronologia recente, aggiorna una banca della memoria strutturata e prende una decisione: aggiungere un breve promemoria alla chiamata successiva dell’agente d’azione oppure restare in silenzio. Il silenzio è importante, perché troppi promemoria consumano token, aggiungono ritardo e distraggono dal lavoro.

La banca della memoria ha tre parti. Un campo di stato privato tiene traccia dei progressi e dei rischi aperti, ma l’agente d’azione non lo vede. Una sezione delle conoscenze raccoglie fatti stabili come percorsi dei file e requisiti. Una sezione procedurale registra ciò che è stato provato e il risultato, compresi i comandi falliti e le ipotesi respinte.

I risultati sono modesti ma costanti. Con Claude Sonnet 4.5 come agente d’azione, il sistema ha risolto al primo tentativo il 46% dei compiti di Terminal-Bench 2.0, contro il 38% della versione di riferimento. In tau2-Bench, che verifica l’uso degli strumenti in scenari di aviazione, vendita al dettaglio e telecomunicazioni, la media è salita dal 55 al 62%. I guadagni erano maggiori con il modello più debole, ma non sono scomparsi con uno più potente. In un test sulle compagnie aeree, un utente sosteneva di avere lo status Gold mentre lo strumento del sistema diceva il contrario. La versione di riferimento aveva concesso un rimborso sulla base della sua dichiarazione. L’agente della memoria ha ricordato all’agente d’azione di fidarsi dei dati verificati.

Cosa c’è dietro. Per due anni il settore ha trattato la lunghezza del contesto come la risposta alla smemoratezza degli agenti. Questo paper si aggiunge alla tesi, sempre più diffusa, che fosse la leva sbagliata. L’attenzione non è la stessa cosa della memorizzazione. In sostanza Meta propone un editor seduto accanto allo scrittore, che decide cosa merita di essere ripetuto. I test di ablazione confermano questa lettura: fornire l’intera banca a ogni passaggio funzionava peggio della versione selettiva e, in alcuni ambiti, peggio che non fare nulla.

Cosa significa per te: Per la maggior parte delle persone oggi non cambia nulla. È infrastruttura, e comparirà dentro gli strumenti invece di essere una funzione da attivare. Se sviluppi con gli agenti, il codice è su GitHub e il progetto dovrebbe integrarsi senza difficoltà con gli harness esistenti. Se invece usi semplicemente gli agenti per lavori lunghi, adotta la versione umana della stessa idea: ripeti i vincoli principali a metà di una sessione lunga, invece di presumere che il modello li abbia ancora presenti.

Fonti

• Paper di Meta AI su arXiv
• Codice del progetto su GitHub
• The Decoder: Meta AI usa un secondo agente come coach della memoria