Un vincitore del premio Turing scommette contro il deep learning con la nuova startup Oak Lab

Richard Sutton, vincitore del premio Turing 2024, l’equivalente del Nobel per l’informatica, ha fondato a Toronto una nuova startup di IA chiamata Oak Lab insieme al ricercatore Khurram Javed. Entrambi lavoravano in precedenza presso Keen Technologies, l’azienda di IA guidata dal leggendario programmatore John Carmack.

Sutton è una delle figure fondatrici dell’apprendimento per rinforzo, il ramo dell’IA in cui i sistemi imparano per tentativi ed errori, ricevendo ricompense per le mosse corrette: la tecnica alla base di AlphaGo e di parte della rifinitura finale dei chatbot odierni. Ha quindi un certo peso quando afferma che gli attuali metodi di deep learning sono «deboli e inefficienti» e richiedono «non altri ritocchi, ma idee fondamentalmente nuove». La sua tesi, ripetuta più volte nell’ultimo anno, è che i modelli linguistici odierni siano brillanti imitatori dei testi umani, ma non sappiano valutare davvero i propri risultati né scoprire cose autenticamente nuove. L’obiettivo dichiarato di Oak Lab è un agente che, mentre opera, impari continuamente dall’ambiente anziché essere addestrato una sola volta su un enorme insieme di dati statici e poi congelato. L’ambizione a lungo termine sembra quasi fantascienza: un agente con «mille miliardi di parametri che impara e pianifica in tempo reale consumando 20 watt». Come riferimento, 20 watt sono all’incirca il consumo di un cervello umano.

Cosa c’è dietro? Sotto la notizia della startup si nasconde una vera divisione scientifica. I grandi laboratori, OpenAI, Anthropic e Google, scommettono che continuare ad ampliare gli attuali modelli funzionerà, e i risultati ottenuti finora li sostengono. Un gruppo ristretto ma autorevole di ricercatori, tra cui Sutton e l’ex responsabile scientifico di Meta Yann LeCun, che ha lasciato l’azienda per fondare una propria startup con un approccio alternativo diverso, ritiene che questo percorso finirà per appiattirsi e che manchi l’apprendimento dall’esperienza. È utile sapere che Sutton è famoso anche per «The Bitter Lesson», un saggio molto citato secondo cui, nel lungo periodo, vincono sempre i metodi generali insieme a una maggiore potenza di calcolo. Non è contrario alla scala: pensa che stiamo ampliando il tipo sbagliato di apprendente.

Cosa significa per te: nel tuo uso quotidiano dell’IA non cambia nulla; Oak Lab non ha un prodotto e i primi risultati arriveranno probabilmente tra anni. Ma è un utile richiamo alla realtà rispetto alla narrazione secondo cui il progresso dell’IA seguirebbe una strada ormai definita e a senso unico. Alcuni dei ricercatori più premiati del settore ritengono che l’attuale ricetta abbia un limite. Stabilire se abbiano ragione è una delle questioni aperte più interessanti nell’IA, e la provenienza del prossimo grande salto potrebbe dipendere dalla risposta.

Fonti

• Oak Lab: imparare dall’esperienza anziché da insiemi di dati selezionati
• Richard Sutton su X
• The Decoder: il vincitore del premio Turing Rich Sutton fonda Oak Lab