← Glossar Begriff
Jacobian Lens
Eine Forschungsmethode von Anthropic, mit der sich das verborgene Arbeitsgedächtnis eines Modells lesen lässt.
Die Jacobian Lens (J-Lens) ist eine Interpretierbarkeitsmethode von Anthropic. Sie bildet ein verborgenes „Arbeitsgedächtnis“ in Claude ab, den sogenannten J-Space. Dort hält das Modell Konzepte fest, die es nie ausspricht; verändert man diese verborgenen Konzepte, ändern sich auch die Antworten des Modells.
Solche Interpretierbarkeitsforschung ist wichtig, weil sie KI von einer Blackbox in etwas Prüfbares verwandelt, eine Voraussetzung dafür, ihr wichtige Arbeit anzuvertrauen.
Erwähnt in