Hassabis di DeepMind vuole un arbitro per l'IA, sul modello dell'autorità di vigilanza di Wall Street

Demis Hassabis, amministratore delegato di Google DeepMind, ha pubblicato una proposta dettagliata su come governare l’IA avanzata, prendendo in prestito il modello dalla finanza. Vuole un nuovo organismo statunitense per gli standard, ispirato alla FINRA, l’organizzazione finanziata dal settore che vigila sugli intermediari di Borsa, con il ruolo di arbitro per i modelli di IA più potenti.

L’organismo svilupperebbe protocolli di valutazione per i modelli di frontiera, il ristretto gruppo dei sistemi più capaci prodotti dai maggiori laboratori, inizialmente su base volontaria e in seguito obbligatoria. Sarebbe finanziato dallo stesso settore e si baserebbe su benchmark aggiornati regolarmente, cioè test standardizzati di ciò che i modelli possono o non possono fare in sicurezza. Se le valutazioni rivelassero qualcosa di allarmante, l’organismo potrebbe coordinare un rallentamento dello sviluppo in tutto il settore. Spiccano due scelte progettuali. Primo, le startup e i modelli della ricerca accademica sarebbero esentati, anticipando l’accusa di «cattura normativa», cioè l’uso delle regole da parte delle grandi aziende come una scala da ritirare dopo essere salite. Secondo, Hassabis inquadra tutto attorno all’incertezza anziché alla catastrofe: «Nessuno al mondo sa con certezza cosa accadrà da qui in avanti, e persino gli esperti sono in disaccordo», scrive. Quando la posta in gioco è alta e le certezze sono poche, la sua ricetta è un «ottimismo prudente»: procedere costruendo al contempo guardrail.

Cosa c’è dietro? Il momento è significativo. Pochi giorni prima, oltre 200 economisti e ricercatori di IA, tra cui 16 premi Nobel, avevano firmato una lettera avvertendo che la finestra per prepararsi all’impatto economico dell’IA si sta chiudendo. Hassabis non l’ha firmata, ma la sua proposta sembra una risposta concreta a quell’allarme astratto. Ha inoltre ribadito la propria convinzione che l’intelligenza artificiale generale, un’IA all’altezza degli esseri umani nella maggior parte delle attività, sia probabilmente distante solo pochi anni. È però opportuno mantenere aspettative realistiche: gli esperti sono davvero in disaccordo. Yann LeCun ha definito l’intelligenza generale basata sui modelli linguistici «una totale assurdità», mentre il vincitore del premio Turing Rich Sutton ha appena fondato un laboratorio basato sull’idea che i metodi attuali debbano essere ripensati dalle fondamenta. La proposta dell’amministratore delegato di un laboratorio è un’offerta iniziale, non un piano dotato di slancio politico, e un organismo capace di rallentare lo sviluppo richiederebbe un consenso che ancora non esiste.

Cosa significa per te: oggi non cambia nulla. Ma questo è un segnale utile: chi costruisce i sistemi di IA più potenti sta ormai progettando pubblicamente freni per il proprio settore e discutendo su quali istituzioni debbano controllarli. Se l’IA finirà per avere un’autorità di vigilanza sul modello FINRA, le decisioni su ciò che i modelli possono fare verranno prese attraverso protocolli di test e organismi di normazione, in gran parte lontano dallo sguardo pubblico. Sapere che questi dibattiti esistono è il primo passo per poter dire la propria.

Fonti

• Hassabis su X
• The Decoder