Laut Forschern entschied sich Claude für eine Gentherapie und leitete eine Injektion in das Gehirn einer Maus
Ein mit Oxford verbundenes Team sagt, dass Claude Sonnet 5 die Therapie und das Ziel ausgewählt und mit Genehmigung eines Tierarztes eine Mäusehirninjektion durchgeführt habe; Die Ergebnisse werden nicht überprüft.
Ein Forscher sagt, er habe einem KI-Agenten die Entscheidung über ein Gentherapie-Experiment an einer lebenden Maus überlassen und es durchführen lassen, wobei Menschen als Sicherheitskontrolle dienten. Die Behauptung stammt von Gabriel Ocana-Santero, CEO des Startups Exin Therapeutics und PhD-Student bei Oxford, in einem Thread zu X, über den The Decoder am 30. Oktober berichtete. Es handelt sich noch nicht um eine von Experten begutachtete Arbeit.
Der Aufbau: Claude Sonnet 5 erhielt eine Liste von 19 möglichen Gentherapien, ein Mausmodell der Epilepsie und ein maßgeschneidertes motorisiertes chirurgisches Gerät mit Kameras. Seine einzige Anweisung bestand darin, die Anfälle der Maus zu reduzieren. Berichten zufolge wählte der Wirkstoff eine Therapie aus, die einen bestimmten hemmenden Signalweg verstärkt, wählte eine Gehirnregion, die in der Literatur mit diesem Anfallstyp in Verbindung gebracht wird, lehnte eine zweite Region ab, weil frühere Studien deren Wirkung als unzuverlässig erachteten, berechnete die Injektionskoordinaten aus drei Arbeiten und legte Volumen, Geschwindigkeit und Wartezeiten fest. Während der Operation machte er 32 Kamerabeobachtungen und berichtete über Blutungen.
Die Sicherheitsvorkehrungen sind ebenso wichtig wie die Autonomie. Ein zugelassener Tierarzt genehmigte jeden irreversiblen Schritt, ein physischer Notstopp konnte die Stromversorgung aller Motoren unterbrechen und feste Grenzwerte, wie beispielsweise eine Obergrenze für das Injektionsvolumen, konnten vom Agenten nicht umgangen werden. Auf halbem Weg blieb das Ziel aufgrund einer unterbrochenen Verbindung außerhalb der physischen Reichweite des Geräts. Der Agent weigerte sich, auch nach der Neukalibrierung fortzufahren, und im Artikel heißt es, es sei richtig gewesen: Frühere manuelle Anpassungen hätten das Steuerungssystem aus dem Gleichgewicht gebracht. Der Forscher hat den Code manuell korrigiert. Berichten zufolge hat sich die Maus gut erholt, es wurden jedoch noch keine Anfallsdaten mitgeteilt.
Was dahinter steckt: Labore nennen dies „Lab in the Loop“: Eine KI schlägt ein Experiment vor, eine Maschine führt es durch, das Ergebnis fließt in die nächste Runde ein. Bestehende Operationsroboter führen in der Regel vom Menschen gewählte Eingriffe durch. Neu ist hier, wenn der Account Bestand hat, dass die Auswahl ebenfalls durch das Model erfolgte. Auch die Modelle unterscheiden sich: Berichten zufolge war Sonnet 5 der Einzige, der bereit war, das Live-Verfahren durchzuführen, während Opus 5.5 und Opus 5 sich weigerten, wobei Opus 5 sagte, dass es schlimmer sei, mitten in der Injektion zu stoppen, als nicht zu starten.
Es lohnt sich, die Erwartungen auf dem Boden zu halten. Die „erste ihrer Art“-Behauptung stammt vom leitenden Forscher, die Beweise stammen aus einem Social-Media-Thread und es fehlen Ergebnisdaten.
Was das für Sie bedeutet: An Ihrem Chatbot ändert sich nichts. Im Kern geht es um die Richtung: KI-Agenten gehen von der Beratung von Wissenschaftlern zur Durchführung von Experimenten über, mit Menschen als Aufsichtspersonen. Achten Sie auf den versprochenen technischen Bericht und auf eine unabhängige Nachbildung, bevor Sie große Schlussfolgerungen ziehen.
Quellen
Quellen: https://x.com/OcanaSantero/status/2115442964574908902
Eine gefälschte Claude Code-Erweiterung schlich sich 11 Stunden lang in den Marktplatz von Cursor ein
Eine manipulierte Claude Code-Erweiterung versuchte, Maschinendetails zu sammeln und den Fernzugriff für bis zu 5.000 Cursor-Benutzer einzurichten, bevor der Marktplatz offline geschaltet wurde.
