Anthropic peut désormais lire le monologue intérieur de Claude, découvrez la Jacobian Lens

Anthropic a publié une nouvelle méthode de recherche baptisée Jacobian Lens, ou J-Lens, qui permet aux chercheurs de lire quelque chose de remarquable : une sorte de monologue intérieur au sein de ses modèles Claude. La méthode révèle un petit ensemble de motifs neuronaux internes, que les chercheurs appellent le « J-Space »qui se comporte comme une mémoire de travail et conserve des pensées semblables à des mots que le modèle n’écrit jamais réellement dans ses réponses.

Trois résultats ressortent. Premièrement, chaque motif du J-Space correspond à un mot ou à un concept sans que le modèle ait besoin de l’énoncer, un peu comme lorsque l’on pense silencieusement avec des mots. Claude peut indiquer ce qui y est stocké, le modifier sur demande et s’en servir pour un raisonnement en plusieurs étapes. Deuxièmement, le J-Space ne se contente pas de refléter la pensée de Claude : il l’oriente. Lors d’une expérience, les chercheurs ont trouvé le concept d’« araignée » conservé dans le J-Space pendant que Claude résolvait une énigme sur un nombre de pattes. Remplacez cette représentation interne par « fourmi » et la réponse du modèle change en conséquence. Il s’agit d’un contrôle causal, pas seulement d’une corrélation. Troisièmement, le modèle semble capable de reconnaître, dans cet espace interne, les situations où il est soumis à un test avant même de commencer à rédiger sa réponse.

Qu’y a-t-il derrière tout cela ? Ces travaux s’appuient sur les recherches antérieures d’Anthropic en interprétabilité, le domaine qui cherche à comprendre ce qui se passe réellement à l’intérieur des modèles d’IA, lesquels restent généralement des boîtes noires, même pour leurs créateurs. Les chercheurs présentent le J-Space à travers la théorie de l’espace de travail global, une idée issue des recherches sur la conscience selon laquelle la pensée consciente repose sur une mémoire de travail centrale partagée par différents processus cérébraux. Anthropic reste prudent sur ce point : l’entreprise affirme explicitement qu’elle ne prétend pas que Claude est conscient. Elle souligne des parallèles fonctionnels avec la mémoire de travail humaine, un rôle similaire, sans rien affirmer sur une éventuelle expérience intérieure.

Les retombées pratiques sont déjà concrètes : les enseignements tirés de J-Lens ont débouché sur une nouvelle méthode d’entraînement qui, selon Anthropic, réduit sensiblement les hallucinations, ces cas où un modèle affirme avec assurance des choses fausses, ainsi que les réponses trompeuses.

Ce que cela signifie pour vous : Rien ne change aujourd’hui dans votre application Claude. Mais ces recherches comptent pour une question que tout le monde finit par se poser au sujet de l’IA : « Comment savoir qu’elle n’invente pas ? » Pouvoir observer ce qu’un modèle garde à l’esprit, puis corriger son entraînement en conséquence, constitue une étape concrète pour passer de « faites-nous confiance » à « nous pouvons vérifier ». Pour la plupart des gens, l’essentiel est simple : les outils permettant de comprendre l’IA de l’intérieur s’améliorent, et moins d’hallucinations se glisseront discrètement dans les futurs modèles. Gardez toutefois vos distances avec les gros titres sur la conscience : les parallèles avec la mémoire de travail sont fascinants, mais ils concernent une fonction, pas des sentiments.

Sources

• Anthropic : recherches sur l’espace de travail global
• The Decoder : le monologue intérieur caché de Claude devient lisible grâce à la nouvelle Jacobian Lens d’Anthropic