← Glossaire Terme
Jacobian Lens
Une méthode de recherche d'Anthropic pour lire la mémoire de travail cachée d'un modèle.
La Jacobian Lens (J-Lens) est une méthode d’interprétabilité d’Anthropic. Elle cartographie dans Claude une « mémoire de travail » cachée appelée J-Space, où le modèle conserve des concepts qu’il n’exprime jamais ; modifier ces concepts change ses réponses.
Ce type de recherche compte parce qu’il transforme l’IA d’une boîte noire en quelque chose que nous pouvons inspecter, condition préalable pour lui confier des tâches importantes.
Mentionné dans