Google esclude il proprio modello dalle domande del test
DeepMind e il Singapore AI Safety Institute hanno eseguito la prima valutazione in doppio cieco di un modello di frontiera proprietario. Il valutatore non vede mai i pesi, Google non vede mai le domande e la crittografia li applica entrambi.
Se conoscessi in anticipo le domande dell’esame, il tuo punteggio perfetto non significherebbe nulla. Questo è più o meno il problema con i benchmark dell’intelligenza artificiale oggi e Google DeepMind ha appena avviato un progetto pilota progettato per risolverlo. Insieme al Singapore AI Safety Institute e ad altri partner, ha effettuato quella che descrive come la prima valutazione in doppio cieco di un modello di frontiera proprietario. Un modello della linea Gemini Flash Lite è stato testato rispetto a benchmark che Google non ha mai visto.
Il problema ha un nome: contaminazione dei benchmark. Se le domande del test si trovavano da qualche parte nei dati di addestramento di un modello, il suo punteggio indica che è stato memorizzato bene, non che ragiona bene. Finora, le sensibili valutazioni esterne hanno costretto a una scelta imbarazzante. O il valutatore ha consegnato i suggerimenti del test, il che significava che il fornitore del modello vedeva le domande e poteva ottimizzarle, oppure il fornitore ha consegnato i pesi del modello, il che significava rischiare la sua proprietà intellettuale più preziosa. Nessuna delle parti voleva andare per prima. DeepMind cita un esempio recente dell’attrito risultante: la ritardata valutazione ARC-AGI di Fable 5 di Anthropic, ritardata perché Anthropic applica una politica di conservazione dei dati di 30 giorni sui suoi modelli più forti.
Il progetto pilota rimuove la scelta utilizzando Confidential Space, parte degli strumenti informatici riservati di Google Cloud. Sia i dati di test che il modello vengono eseguiti all’interno di un ambiente sigillato crittograficamente che verifica che ogni lato rimanga privato per il suo proprietario. Il valutatore non vede mai i pesi dei Gemelli. Google non vede mai le istruzioni. Fino ad ora tutto ciò è stato gestito con promesse e contratti di zero logging, vale a dire con fiducia. Aggiungere una garanzia tecnica in più è la vera novità.
Che cosa sta realmente succedendo qui: i benchmark rappresentano il modo in cui l’intero settore parla dei progressi e quasi tutti i numeri che leggi in un post di lancio sono stati prodotti dall’azienda che ha realizzato il modello, in base ai test che ha potuto vedere. Nessuno imbroglia necessariamente, ma la struttura degli incentivi è terribile e non c’è modo per un estraneo di distinguere un modello veramente capace da uno ben preparato. La valutazione indipendente funziona solo se il valutatore riesce a mantenere segrete le sue domande, e le domande segrete erano esattamente ciò che il vecchio ordinamento non poteva offrire. Ciò è particolarmente importante laddove la posta in gioco è più alta: test di sicurezza informatica e valutazioni condotte da agenzie governative che non possono consegnare il proprio materiale a un’azienda privata. Vale la pena, però, mantenere le aspettative con i piedi per terra. Questo è un progetto pilota, su un modello di piccole dimensioni, e DeepMind è sia il soggetto che la parte che annuncia il risultato.
Che cosa significa per te: consideralo un motivo per leggere i numeri dei benchmark in modo leggermente più scettico, non meno. La prossima volta che il lancio di un modello ti dice che ha ottenuto un punteggio del 94% su qualcosa, le domande da tenere a mente sono chi ha scritto il test, se il laboratorio poteva vederlo in anticipo e se qualcuno esterno all’azienda ha controllato. Se questo metodo prende piede, alcuni di questi numeri inizieranno a portare dietro di sé una garanzia significativa e il resto no, e la differenza varrà la pena di essere notata. Per chiunque scelga gli strumenti anziché costruirli, la versione pratica rimane la stessa di sempre: la tua settimana di utilizzo reale ti dice più di qualsiasi classifica.
Fonti
Il testo invisibile in un'e-mail ha ingannato un riepilogatore AI in tutte e 10 le esecuzioni
Forcepoint ha nascosto le istruzioni in un'e-mail utilizzando testo bianco con dimensione del carattere pari a zero. Il lettore non ha visto nulla di insolito. Il riepilogo AI riportava ogni volta una fattura falsa da 46.200 euro e una scadenza falsa.
