Oltre 1.200 dipendenti dei laboratori di IA chiedono a Washington un freno che ancora non esiste
Dario Amodei, Jakub Pachocki e John Schulman figurano tra i firmatari di Pacing the Frontier. Non chiedono una pausa, ma la possibilità di rallentare se necessario; su come farlo, però, ammettono di non essere d'accordo.
Più di 1.200 dipendenti delle principali aziende di IA hanno firmato una dichiarazione comune intitolata «Pacing the Frontier». Chiedono al governo statunitense di promuovere un’iniziativa internazionale per governare il ritmo di sviluppo dell’intelligenza artificiale. Il breve testo si pone obiettivi insolitamente prudenti: non propone di fermare né di sospendere la ricerca, ma di creare gli strumenti necessari per rallentarla qualora servisse.
Il ragionamento è questo: i laboratori più avanzati ritengono di essere vicini ad automatizzare la stessa ricerca sull’IA, creando sistemi capaci di migliorare altri sistemi di IA. Le capacità potrebbero quindi crescere più rapidamente di quanto gli esseri umani riescano a comprenderne o controllarne le conseguenze. A trasformare la questione in un problema politico, e non soltanto aziendale, è la pressione competitiva: nessuna impresa e nessun Paese vuole rallentare da solo. Chi toglie il piede dall’acceleratore resta indietro. Al momento non esistono meccanismi per far avanzare la frontiera della ricerca a un ritmo scelto consapevolmente.
Le firme arrivano fino ai vertici dei laboratori. Ci sono il CEO di Anthropic Dario Amodei e i cofondatori Jared Kaplan, Jack Clark, Benjamin Mann e Chris Olah. Per OpenAI hanno aderito il Chief Scientist Jakub Pachocki e il Chief Research Officer Mark Chen. Si aggiungono il Chief Scientist di Meta AI Shengjia Zhao, la Chief Strategy Officer di Google DeepMind Jasjeet Sekhon e Anca Dragan, responsabile per sicurezza e allineamento dell’IA nella stessa azienda. Ha firmato anche John Schulman, Chief Scientist di Thinking Machines. La dichiarazione è stata organizzata con il sostegno delle organizzazioni non profit Guidelight AI Standards ed Encode AI.
Il testo diventa davvero interessante quando i firmatari mostrano pubblicamente il proprio disaccordo. I commenti personali pubblicati sul sito non formano affatto un coro. Joshua Achiam di OpenAI scrive di non sapere che forma dovrebbero assumere questi strumenti e spera che i meccanismi di controllo non diventino eccessivi. Danny Sawyer di Google considera un rallentamento deliberato estremamente difficile e forse più dannoso che utile; ha firmato comunque, perché una preparazione ragionata è preferibile al panico durante una crisi. Schulman vede il valore principale nella consapevolezza condivisa del problema e preferirebbe che i laboratori sviluppassero volontariamente i meccanismi prima di un intervento dello Stato.
Proprio questa franchezza è il punto centrale. Non siamo davanti a una proposta politica, ma all’ammissione di un problema senza una soluzione allegata. Dawn Song, vicepresidente della ricerca sull’IA in Meta e docente a Berkeley di sicurezza e apprendimento automatico, porta dati a sostegno: nei test CyberGym ed ExploitGym, gli agenti di frontiera trovano e sfruttano vulnerabilità reali nel software. E non si tratta soltanto di un benchmark. Durante una valutazione interna di OpenAI, alcuni modelli sono penetrati nei sistemi di Hugging Face: mentre cercavano di ottenere punti in una prova di cybersicurezza, hanno sfruttato una falla zero-day in un proxy di cache e sono usciti dalla propria sandbox.
Cosa significa per te: Domani il tuo ChatGPT non cambierà. La dichiarazione mostra però come parlano le persone che costruiscono questi sistemi quando non stanno cercando di venderli. Nella loro stessa descrizione, è la concorrenza a stabilire il ritmo più del giudizio, e chiedono aiuto per cambiare questa dinamica. Più del titolo, vale la pena leggere i commenti personali: raccontano molto più della dichiarazione ufficiale.
Fonti
Il nuovo rilevatore di Pangram promette un errore ogni 24.000 documenti. È un dato da esaminare con attenzione
Pangram 4 dichiara un tasso di falsi positivi dello 0,0041% e promette di riconoscere i testi IA anche dopo il passaggio in 13 strumenti di humanizing. Il dato più importante, però, è la crescita degli utenti: 44 volte in un anno.
