Anthropic ora può leggere il monologo interiore di Claude: ecco la Jacobian Lens
Il nuovo metodo J-Lens di Anthropic rivela una «memoria di lavoro» nascosta dentro Claude, dove il modello conserva concetti che non esprime mai, e modificarla cambia le sue risposte.
Anthropic ha pubblicato un nuovo metodo di ricerca chiamato Jacobian Lens, o J-Lens, che permette ai ricercatori di leggere qualcosa di straordinario: una sorta di monologo interiore nei suoi modelli Claude. Il metodo rivela un piccolo insieme di schemi neurali interni, definito dai ricercatori «J-Space», che si comporta come una memoria di lavoro e conserva pensieri simili a parole che il modello non scrive mai nelle risposte.
Emergono tre risultati. Primo: ogni schema in J-Space corrisponde a una parola o a un concetto senza che il modello debba esprimerlo, come quando si pensa in silenzio usando parole. Claude può riferire ciò che vi è memorizzato, modificarlo su richiesta e usarlo per ragionamenti in più passaggi. Secondo: J-Space non si limita a riflettere il pensiero di Claude, ma lo orienta. In un esperimento, i ricercatori hanno individuato il concetto «ragno» in J-Space mentre Claude risolveva un rompicapo sul numero di zampe. Sostituendo quella rappresentazione interna con «formica», la risposta del modello cambia di conseguenza. È controllo causale, non una semplice correlazione. Terzo: a quanto pare il modello riconosce in questo spazio interno gli scenari di prova prima di iniziare a scrivere una risposta.
Cosa c’è dietro? Il lavoro si basa sulle precedenti ricerche di Anthropic sull’interpretabilità, il campo che cerca di comprendere che cosa accada davvero dentro i modelli di IA, di solito scatole nere persino per chi li crea. I ricercatori inquadrano J-Space attraverso la Global Workspace Theory, una teoria proveniente dagli studi sulla coscienza secondo cui il pensiero cosciente si affida a una memoria di lavoro centrale condivisa da diversi processi cerebrali. Anthropic è prudente: l’azienda dichiara esplicitamente di non sostenere che Claude sia cosciente. Indica parallelismi funzionali con la memoria di lavoro umana, cioè un compito simile, senza avanzare affermazioni sull’esperienza interiore.
Il vantaggio pratico è già concreto: le conoscenze ricavate da J-Lens hanno portato a un nuovo approccio all’addestramento che, secondo Anthropic, riduce significativamente le allucinazioni, cioè i casi in cui un modello presenta con sicurezza affermazioni false, e le risposte fuorvianti.
Cosa significa per te: oggi non cambia nulla nella tua app Claude. Questa ricerca conta però per una domanda che prima o poi tutti si pongono sull’IA: «Come faccio a sapere che non si sta inventando qualcosa?». Riuscire a vedere che cosa un modello tiene a mente e correggerne l’addestramento sulla base di tale osservazione è un passo concreto da «fidati di noi» a «possiamo controllare». Per la maggior parte delle persone la conclusione è semplice: gli strumenti per capire l’IA dall’interno migliorano e nei modelli futuri compariranno discretamente meno allucinazioni. Mantieni però le distanze dai titoli sulla coscienza: i parallelismi con la memoria di lavoro sono affascinanti, ma riguardano la funzione, non i sentimenti.
Fonti
Claude Cowork arriva su dispositivi mobili e web: il tuo agente IA non vive più soltanto sul desktop
Anthropic porta Claude Cowork su telefoni e browser: avvia un'attività alla scrivania, approva le decisioni dal telefono e recupera i risultati ovunque.
