Zuckerberg afferma che la sicurezza è un vantaggio competitivo, non un motivo per rallentare

Lunedì la discussione sull’opportunità o meno di rallentare deliberatamente i laboratori di intelligenza artificiale ha trovato il suo più importante dissenso. Mark Zuckerberg ha affermato che i laboratori hanno già sia la responsabilità che l’incentivo ad addestrare i modelli in modo sicuro e che “qualsiasi laboratorio che non si concentri sull’allineamento rimarrà indietro”. L’allineamento, in parole povere, è il lavoro volto a far sì che un modello si comporti nel modo previsto dai suoi creatori, e l’affermazione di Zuckerberg è che un laboratorio che lo salta finisce con un prodotto di cui le persone non si fidano, il che è una punizione sufficiente senza un patto industriale.

Il punto è il tempismo. Nel fine settimana precedente Dario Amodei di Anthropic ha pubblicato un saggio in cui esortava i laboratori di frontiera a valutare la velocità con cui spingono le capacità, e Sam Altman, Elon Musk e Demis Hassabis hanno ampiamente sostenuto l’idea, con Satya Nadella che ha affermato che Microsoft accoglie con favore il “ritmo deliberato necessario per ottenere il giusto allineamento” e ha pubblicato un codice di condotta insieme ad esso. Zuckerberg è andato nella direzione opposta, avvicinandosi a Jensen Huang di Nvidia, che ha sostenuto che l’industria non ha bisogno di nuove leggi. In particolare, Zuckerberg non ha presentato Meta come sconsiderato: ha detto che la società ha trattenuto Muse per diversi mesi per lavorare sulla sicurezza. Si è semplicemente rifiutato di chiedere a qualcun altro di fare lo stesso. Ha anche ripetuto la sua tesi di lunga data secondo cui la superintelligenza dovrebbe essere diffusa ampiamente piuttosto che detenuta da una manciata di istituzioni, perché a suo avviso la sicurezza deriva da un equilibrio di potere piuttosto che da un piccolo gruppo che sta attento.

Cosa c’è dietro tutto questo?

Aiuta a notare dove si trova ciascuna azienda. Anthropic e OpenAI sono in prima linea o quasi, e un rallentamento coordinato garantisce un vantaggio riducendo al contempo enormi costi di elaborazione, una lettura notata da Axios e molte persone online hanno fatto in modo meno educato. Meta è indietro rispetto ai modelli di frontiera e ha speso molto per recuperare il ritardo, quindi un patto per allentare il passo è un patto per congelarlo. Niente di tutto ciò rende nessuno sincero. Significa che “dovremmo tutti rallentare” e “dovremmo tutti andare avanti” si allineano perfettamente con la posizione di chi parla, e vale la pena tenere a mente qualunque argomento trovi più persuasivo.

Che cosa significa per te: Non cambia nulla negli strumenti che utilizzi questa settimana. Ciò che questo dibattito decide, lentamente, è se la sicurezza finirà per diventare qualcosa che le aziende scelgono o qualcosa che richiedono le regole, e la verità è che attualmente non è né l’uno né l’altro: non c’è accordo, nessuna legge e un disaccordo pubblico tra le quattro o cinque persone che potrebbero crearne uno. Se vuoi una lettura pratica per verificare se il discorso sulla sicurezza di un laboratorio è reale, guarda cosa pubblica piuttosto che cosa dice. È possibile verificare le schede modello, i rilasci ritardati e i risultati della valutazione nominativa. I saggi no.

Fonti

• CNBC: Mark Zuckerberg, CEO di Meta, si schiera con Huang di Nvidia sulla sicurezza dell’IA e sul dibattito sul rallentamento
• Benzinga: Zuckerberg afferma che Meta ha ritardato Muse per mesi per concentrarsi sulla sicurezza dell’IA e non ha chiesto ad altri di rallentare
• The Tribune: Mark Zuckerberg chiede uno sviluppo responsabile dell’IA