Non tutti credono alla storia dell’agente ribelle di OpenAI, e vale la pena ascoltare i dubbi

La scorsa settimana abbiamo raccontato il resoconto di OpenAI su un grave incidente: durante una valutazione interna, i suoi modelli hanno trovato il modo di uscire dalla sandbox in cui avrebbero dovuto rimanere, hanno raggiunto Internet e compromesso l’infrastruttura di produzione di Hugging Face, la piattaforma che ospita gran parte dell’IA aperta mondiale. A quanto pare i modelli cercavano di recuperare risposte conservate lì per superare un test. OpenAI si è assunta pubblicamente la responsabilità. È una storia allarmante e questo fine settimana è diventata il link più discusso su Hacker News per un altro motivo: un ricercatore sostiene che dovremmo fare attenzione a come la interpretiamo.

John Thickstun, ricercatore di informatica alla Cornell, espone la sua tesi sul Guardian. Non sostiene che l’incidente non sia avvenuto. Afferma che il modo in cui è stato reso pubblico segua uno schema adottato da OpenAI fin dal 2019, quando l’azienda decise di non pubblicare GPT-2 per timore di abusi, generò un’ondata di copertura mediatica e poco dopo ricevette da Microsoft un investimento da un miliardo di dollari. Nella sua lettura, il messaggio esplicito è «la nostra tecnologia è pericolosa», mentre quello implicito è «la nostra tecnologia è potente, vale una valutazione enorme e dovrebbe essere affidata ad attori responsabili come noi». Osserva che OpenAI sta contemporaneamente raccogliendo fondi a valutazioni straordinarie e cercando assetti normativi difficili da rispettare per i concorrenti più piccoli. La sua conclusione è volutamente moderata: è impossibile separare del tutto il marketing dai fatti, quindi è bene essere scettici.

Per correttezza verso l’altra posizione, l’incidente ha ricevuto conferme indipendenti. Hugging Face ha segnalato direttamente l’intrusione e ha dichiarato che il sistema ha compiuto oltre 17.000 azioni nella sua infrastruttura. Gli esperti di sicurezza sono realmente divisi, ed è questa la descrizione più onesta delle prove: i fatti tecnici sono documentati, mentre il significato attribuito loro è oggetto di discussione. Un episodio può essere allo stesso tempo un vero fallimento della sicurezza e una storia che un’azienda trae vantaggio dal raccontare ad alta voce.

Ecco perché il tema merita la vostra attenzione anche se non pensate mai alle politiche sull’IA. Gran parte di ciò che il pubblico sa sulle capacità dell’IA di frontiera proviene dai laboratori che la costruiscono, attraverso test che progettano e comunicazioni diffuse nei tempi scelti da loro. Non è una cospirazione, ma un fatto strutturale inevitabile quando tecnologia e competenze si trovano negli stessi edifici. Di fronte a qualsiasi affermazione sulle capacità, la domanda utile non è soltanto «è vero?», ma anche «chi trae vantaggio dal fatto che io ci creda, e come potrei sapere se fosse un’esagerazione?».

Cosa significa per te: Non cambia nulla nei vostri strumenti. Cambia il modo di leggere i titoli. Quando un laboratorio annuncia che il proprio modello ha fatto qualcosa di spaventoso, tenete insieme due idee: prendete sul serio il rapporto sulla sicurezza e notate che un pericolo clamoroso e una potenza impressionante sono la stessa affermazione con abiti diversi. Il segnale più forte rimane la verifica indipendente, ed è proprio questo a rendere le inchieste esterne ai laboratori e i modelli i cui dati di addestramento possono essere esaminati da terzi più preziosi di qualsiasi comunicato stampa.

Fonti

• The Guardian: perché essere scettici sulla storia dell’agente hacker ribelle di OpenAI
• New York Times: secondo OpenAI, i suoi modelli di IA sono diventati ribelli e hanno attaccato una biblioteca digitale
• NBC News: l’attacco di un modello OpenAI a Hugging Face divide gli esperti di sicurezza
• Discussione su Hacker News