Claude ha scelto una terapia genica e ha guidato un'iniezione nel cervello del topo, dicono i ricercatori

Un ricercatore afferma di aver lasciato che un agente dell’intelligenza artificiale decidesse ed eseguisse un esperimento di terapia genica su un topo vivente, con gli esseri umani che fungevano da controlli di sicurezza. L’affermazione proviene da Gabriel Ocana-Santero, CEO della startup Exin Therapeutics e studente PhD presso Oxford, in un thread su X riportato da The Decoder il 30 ottobre. Non è ancora un documento sottoposto a revisione paritaria.

La configurazione: Claude Sonnet 5 è stato fornito un elenco di 19 possibili terapie geniche, un modello murino di epilessia e un dispositivo chirurgico motorizzato personalizzato con telecamere. La sua unica istruzione era ridurre le convulsioni del topo. Secondo quanto riferito, l’agente ha scelto una terapia che potenzia una specifica via di segnalazione inibitoria, ha scelto una regione del cervello che la letteratura collega a questo tipo di crisi, ha rifiutato una seconda regione perché studi precedenti avevano trovato i suoi effetti inaffidabili, ha elaborato le coordinate di iniezione da tre articoli e ha impostato il volume, la velocità e i tempi di attesa. Durante l’intervento ha effettuato 32 osservazioni con la telecamera e ha riferito di sanguinamenti.

Le tutele contano tanto quanto l’autonomia. Un veterinario autorizzato approvava ogni passaggio irreversibile, un arresto di emergenza fisico poteva interrompere l’alimentazione a tutti i motori e i limiti fissi, come un limite al volume di iniezione, non potevano essere aggirati dall’agente. A metà strada, una connessione interrotta ha lasciato il bersaglio fuori dal raggio d’azione fisico del dispositivo. L’agente si rifiutò di continuare, anche dopo la ricalibrazione, e l’articolo afferma che era giusto: le precedenti regolazioni manuali avevano sconvolto il sistema di controllo. Il ricercatore ha corretto il codice manualmente. Secondo quanto riferito, il topo si è ripreso bene, ma non sono stati ancora condivisi dati sulle crisi.

Cosa c’è dietro: I laboratori lo chiamano “lab in the loop”: un’intelligenza artificiale propone un esperimento, una macchina lo esegue e il risultato alimenta il round successivo. I robot chirurgici esistenti di solito eseguono procedure scelte dall’uomo. La novità qui, se il resoconto regge, è che la scelta è stata fatta anche dal modello. Anche i modelli differiscono: secondo quanto riferito, Sonnet 5 era l’unico disposto a eseguire la procedura dal vivo, mentre Opus 5.5 e Opus 5 hanno rifiutato, con Opus 5 che ha affermato che interrompere l’iniezione a metà sarebbe stato peggio che non avviarla.

Vale la pena mantenere le aspettative con i piedi per terra. L’affermazione “prima nel suo genere” è del ricercatore capo, la prova è un thread sui social media e mancano i dati sui risultati.

Che cosa significa per te: Non cambia nulla nel tuo chatbot. La conclusione riguarda la direzione: gli agenti dell’intelligenza artificiale stanno passando dal fornire consulenza agli scienziati all’esecuzione di esperimenti, con gli esseri umani come supervisori. Attendere la relazione tecnica promessa e la replica indipendente prima di trarre grandi conclusioni.

Fonti

• Discussione di Gabriel Ocana-Santero su X
• The Decoder: Un modello Claude ha scelto autonomamente una terapia genica