Claude a choisi une thérapie génique et a guidé une injection dans le cerveau d'une souris, selon des chercheurs
Une équipe liée au Oxford indique que le Claude Sonnet 5 a choisi la thérapie et la cible et a effectué une injection dans le cerveau d'une souris sous l'approbation d'un vétérinaire ; les résultats ne sont pas examinés.
Un chercheur affirme avoir laissé un agent d’IA décider et réaliser une expérience de thérapie génique sur une souris vivante, les humains faisant office de contrôle de sécurité. L’affirmation vient de Gabriel Ocana-Santero, PDG de la startup Exin Therapeutics et étudiant PhD à Oxford, dans un fil de discussion sur X rapporté par The Decoder le 30 octobre. Il ne s’agit pas encore d’un article évalué par des pairs.
La configuration : Claude Sonnet 5 a reçu une liste de 19 thérapies géniques possibles, un modèle murin d’épilepsie et un appareil chirurgical motorisé personnalisé avec des caméras. Sa seule consigne était de réduire les crises de la souris. L’agent aurait choisi une thérapie qui stimule une voie de signalisation inhibitrice spécifique, choisi une région du cerveau que la littérature relie à ce type de crise, rejeté une deuxième région parce que des études antérieures avaient trouvé ses effets peu fiables, élaboré les coordonnées d’injection à partir de trois articles et réglé le volume, la vitesse et les temps d’attente. Pendant l’opération, il a effectué 32 observations par caméra et signalé des saignements.
Les garanties comptent autant que l’autonomie. Un vétérinaire agréé approuvait chaque étape irréversible, un arrêt d’urgence physique pouvait couper l’alimentation de tous les moteurs et les limites fixes, telles que le plafond du volume d’injection, ne pouvaient être contournées par l’agent. À mi-chemin, une connexion interrompue a laissé la cible hors de portée physique de l’appareil. L’agent a refusé de continuer, même après un recalibrage, et l’article dit qu’il avait raison : des réglages manuels antérieurs avaient perturbé le système de contrôle. Le chercheur a corrigé le code à la main. La souris aurait bien récupéré, mais aucune donnée sur les saisies n’a encore été partagée.
Qu’est-ce qu’il y a derrière : Les laboratoires appellent cela “laboratoire dans la boucle” : une IA propose une expérience, une machine l’exécute, le résultat alimente le cycle suivant. Les robots chirurgicaux existants effectuent généralement des procédures choisies par un humain. Ce qui est nouveau ici, si l’on en croit le récit, c’est que le choix a également été fait par le modèle. Les modèles diffèrent également : Sonnet 5 aurait été le seul à vouloir exécuter la procédure en direct, tandis que Opus 5.5 et Opus 5 ont refusé, Opus 5 affirmant qu’arrêter à mi-injection serait pire que de ne pas démarrer.
Cela vaut la peine de garder les attentes ancrées. L’affirmation « première du genre » est celle du chercheur principal, les preuves proviennent d’un fil de discussion sur les réseaux sociaux et les données sur les résultats sont manquantes.
Ce que cela signifie pour vous : Rien ne change dans votre chatbot. Ce qu’il faut retenir, c’est une question de direction : les agents d’IA passent du statut de conseiller aux scientifiques à celui de mener des expériences, avec des humains comme superviseurs. Surveillez le rapport technique promis et la réplication indépendante avant de tirer de grandes conclusions.
Sources
Sources: https://x.com/OcanaSantero/status/2115442964574908902
Une fausse extension Claude Code s'est glissée sur le marché de Cursor pendant 11 heures
Une extension Claude Code falsifiée a tenté de collecter les détails de la machine et de configurer l'accès à distance pour jusqu'à 5 000 utilisateurs Cursor avant que la place de marché ne soit mise hors ligne.
