La risposta di Meta al tempo sprecato con la GPU: chiedi a un modello quale esperimento eseguire
I ricercatori di Meta FAIR, Oxford e UCL hanno introdotto i modelli di preferenza della ricerca sull’intelligenza artificiale, che classificano gli esperimenti di machine learning non eseguiti uno contro l’altro invece di prevedere i punteggi, per decidere dove spendere l’elaborazione.
Un articolo del laboratorio FAIR di Meta in collaborazione con l’Università di Oxford e l’University College di Londra affronta un problema che sembra banale e costa una fortuna: gli agenti di ricerca sull’intelligenza artificiale possono proporre molti più esperimenti di quanti chiunque possa permettersi di eseguire. Pensare a un candidato richiede pochi secondi. In realtà, l’addestramento del modello per scoprire se funziona può richiedere ore o giorni di utilizzo della GPU. Quindi il collo di bottiglia non sono le idee, ma la scelta.
La loro proposta si chiama Modello di preferenza per la ricerca sull’intelligenza artificiale, o RPM, e la parte intelligente è ciò che si rifiuta di fare. Non prevede il punteggio ottenuto da un esperimento, perché il team ha riscontrato che i modelli linguistici sono inaffidabili nel prevedere numeri assoluti o risultati di esecuzione. Tratta invece il problema come una classifica: data una serie di esperimenti candidati che non sono stati ancora eseguiti, metteteli in ordine e scegliete quello migliore. Confrontare due opzioni è una questione molto più semplice che stimare il valore di una delle due, ed è un trucco che si manifesta in tutto il machine learning. Il team ha creato due versioni partendo da modelli linguistici preaddestrati congelati, ovvero modelli utilizzati così come sono senza ulteriore formazione. Si ragiona esclusivamente sui piani dei candidati, sul codice e sui risultati degli esperimenti già eseguiti. L’altro esegue inoltre esperimenti pilota su piccola scala prima di classificarsi, spendendo un po’ di calcolo per risparmiare molto.
Perché questo è più importante di quanto sembri. Quasi tutte le storie sull’automazione della ricerca sull’intelligenza artificiale riguardano agenti che generano ed eseguono. Molto poco riguarda gli agenti che declinano. Man mano che i laboratori puntano a sistemi più autonomi per la propria ricerca, il vincolo smette di essere quante idee il sistema può avere e diventa quanto sia buono il suo gusto, e il gusto è esattamente ciò che nessuno ha saputo misurare. Inquadrarlo come una classifica delle preferenze lo rende qualcosa che puoi addestrare e valutare. Si collega anche direttamente ai numeri pubblicati da OpenAI questa settimana sul tempo di esecuzione degli agenti che supera il lavoro umano di tre a uno: il tempo di esecuzione vale qualcosa solo se valeva la pena eseguire gli esperimenti, e un laboratorio che brucia tre giorni-agente per giorno umano ha un ovvio interesse a non sprecarli.
Cosa significa per te. Per la maggior parte dei lettori si tratta di un background piuttosto che di qualcosa su cui agire, ed è bene archiviarlo in questo modo. Ma l’idea di fondo va ben oltre i cluster GPU. Se hai mai chiesto a un modello di assegnare un punteggio alle tue opzioni su dieci e hai ottenuto un set di otto sospettosamente piatto, hai riscontrato lo stesso fallimento riscontrato dai ricercatori. Chiedergli invece di classificare, o di confrontare due cose alla volta, tende a produrre risposte che puoi effettivamente utilizzare. Questo è un miglioramento gratuito del modo in cui chiedi e deriva dalla stessa osservazione dell’articolo.
Fonti
OpenAI afferma che i suoi agenti di codifica ora funzionano tre giorni per ogni giorno umano
OpenAI ha pubblicato dati interni che mostrano che la sua organizzazione di ricerca utilizza 3,1 giorni lavorativi di agente di codifica per ogni giornata lavorativa umana e afferma di aver raggiunto il suo obiettivo di uno stagista di ricerca automatizzato entro settembre.
