Anthropic kann jetzt Claudes inneren Monolog lesen, das ist die Jacobian Lens
Anthropics neue J-Lens-Methode macht ein verborgenes „Arbeitsgedächtnis“ in Claude sichtbar, in dem das Modell Konzepte festhält, die es nie ausspricht, und Eingriffe darin verändern Claudes Antworten.
Anthropic hat eine neue Forschungsmethode namens Jacobian Lens, kurz J-Lens, veröffentlicht. Damit können Forschende etwas Bemerkenswertes lesen: eine Art inneren Monolog in den Claude-Modellen des Unternehmens. Die Methode macht eine kleine Gruppe interner neuronaler Muster sichtbar, die Forschenden nennen sie „J-Space“. Sie verhält sich wie ein Arbeitsgedächtnis und hält wortähnliche Gedanken fest, die das Modell in seinen Antworten nie tatsächlich niederschreibt.
Drei Erkenntnisse stechen hervor. Erstens lässt sich jedes Muster im J-Space einem Wort oder Konzept zuordnen, ohne dass das Modell es aussprechen muss, ähnlich wie stilles Denken in Worten. Claude kann berichten, was dort gespeichert ist, es auf Aufforderung ändern und für mehrstufiges Schlussfolgern nutzen. Zweitens spiegelt der J-Space Claudes Denken nicht nur wider, sondern lenkt es. In einem Experiment fanden die Forschenden das Konzept „Spinne“ im J-Space, während Claude ein Rätsel zur Anzahl von Beinen löste. Ersetzt man diese interne Repräsentation durch „Ameise“, ändert sich die Antwort des Modells entsprechend. Das ist kausale Kontrolle, nicht bloß Korrelation. Drittens kann das Modell offenbar Testsituationen in diesem internen Raum erkennen, noch bevor es mit dem Schreiben einer Antwort beginnt.
Was steckt dahinter? Die Arbeit baut auf Anthropics früherer Forschung zur Interpretierbarkeit auf, einem Gebiet, das verstehen will, was in KI-Modellen tatsächlich vorgeht. Denn selbst für ihre Entwickler sind sie meist Blackboxes. Die Forschenden ordnen den J-Space mithilfe der Global Workspace Theory ein, einer Idee aus der Bewusstseinsforschung. Ihr zufolge beruht bewusstes Denken auf einem zentralen Arbeitsgedächtnis, das verschiedene Prozesse im Gehirn gemeinsam nutzen. Anthropic formuliert hier bewusst vorsichtig: Das Unternehmen behauptet ausdrücklich nicht, Claude sei bewusst. Es verweist auf funktionale Parallelen zum menschlichen Arbeitsgedächtnis, eine ähnliche Aufgabe, aber keine Aussage über inneres Erleben.
Der praktische Nutzen ist bereits real: Erkenntnisse aus J-Lens haben zu einem neuen Trainingsansatz geführt, der laut Anthropic Halluzinationen, also Fälle, in denen ein Modell selbstbewusst Unwahres behauptet, und irreführende Ausgaben deutlich reduziert.
Was das für dich bedeutet: In deiner Claude-App ändert sich heute nichts. Diese Forschung ist aber wichtig für eine Frage, die sich bei KI früher oder später alle stellen: „Woher weiß ich, dass sie sich nichts ausdenkt?“ Sehen zu können, was ein Modell im Gedächtnis hält, und sein Training auf dieser Grundlage zu korrigieren, ist ein konkreter Schritt weg von „Vertrau uns“ und hin zu „Wir können es überprüfen“. Für die meisten Menschen ist die Kernaussage einfach: Die Werkzeuge, mit denen wir KI von innen verstehen können, werden besser, und in künftigen Modellen werden sich unbemerkt weniger Halluzinationen einschleichen. Schlagzeilen über Bewusstsein solltest du dennoch mit Abstand betrachten: Die Parallelen zum Arbeitsgedächtnis sind faszinierend, betreffen aber die Funktion, nicht Gefühle.
Quellen
Quellen: https://www.anthropic.com/research/global-workspace
Claude Cowork kommt auf Mobilgeräte und ins Web, dein KI-Agent lebt nicht mehr nur auf dem Desktop
Anthropic bringt Claude Cowork auf Smartphones und in Browser: Starte eine Aufgabe am Schreibtisch, genehmige Entscheidungen unterwegs und rufe die Ergebnisse überall ab.
