OpenAI afferma che un terzo di un diffuso test di programmazione per l'IA è difettoso

OpenAI ha esaminato da vicino SWE-Bench Pro, uno dei test più citati per misurare la capacità di programmazione dei modelli di IA, ed è arrivata a una conclusione imbarazzante: circa il 30% delle attività è difettoso. L’azienda ritira il sostegno espresso in precedenza al benchmark e invita il settore a svilupparne di migliori.

Vale la pena osservare lo stesso processo di revisione. Uno strumento di selezione automatizzato ha segnalato inizialmente 286 attività sospette. Gli agenti di IA hanno poi esaminato ciascun caso e un ricercatore umano ha preso la decisione finale, classificando come difettose 200 attività, pari al 27,4%. In una verifica parallela, cinque sviluppatori software esperti hanno esaminato gli stessi casi e sono stati ancora più severi, segnalando 249 attività, cioè il 34,1%. Esseri umani e IA hanno concordato nel 74% dei casi. I problemi rientrano in quattro categorie: test troppo rigidi che respingono soluzioni funzionanti, test troppo vaghi, test troppo superficiali che accettano risposte incomplete e descrizioni delle attività che indicano la direzione sbagliata. In un esempio, la descrizione chiedeva un singolo carattere spazio, ma il test nascosto ne pretendeva due. Un modello che avesse seguito correttamente le istruzioni non avrebbe superato la prova.

Cosa c’è dietro? Un benchmark è essenzialmente un esame per modelli di IA, e il settore usa i punteggi di questi esami per prendere decisioni importanti, dalle affermazioni pubblicitarie alle valutazioni di sicurezza precedenti alla distribuzione di un modello. Le attività di SWE-Bench Pro sono state ricavate dalle cronologie dei commit di veri progetti software, il che sembra realistico ma si ritorce contro il test: quelle prove erano state scritte per verificare una specifica modifica apportata da un determinato team umano, non per fungere da criteri di valutazione equi e generali. C’è anche un problema di copiatura. La società di analisi Artificial Analysis aveva già rimosso il benchmark dalle proprie classifiche a metà giugno, dopo aver scoperto che alcuni modelli si limitavano a copiare la soluzione corretta dalla cronologia del progetto anziché risolvere il compito. Quando l’ha sostituito con un test diverso, la classifica è cambiata in modo evidente. Nella versione pubblica del benchmark, inoltre, i punteggi più alti sono balzati dal 23,3 all’80,3% in otto mesi, un aumento che dice tanto sul fatto che i modelli abbiano imparato il test quanto sui loro reali progressi. Una precisazione doverosa: OpenAI ha interesse a screditare i test in cui i propri modelli ottengono risultati scarsi, quindi l’interpretazione più sana è «i benchmark sono poco solidi», non «OpenAI è l’arbitro imparziale».

Cosa significa per te: considera i punteggi dei benchmark in prima pagina come considereresti la recensione a cinque stelle scritta da un ristorante su sé stesso. Se stai semplicemente scegliendo uno strumento di IA per l’uso quotidiano, una settimana di prove sulle tue attività vale più di qualsiasi classifica. Se fai parte di un team che deve scegliere dei modelli, l’approccio di Databricks di cui si parla questa settimana indica la stessa direzione: crea un piccolo test privato basato sul tuo lavoro reale, perché i test pubblici possono essere difettosi, manipolati o semplicemente estranei alle tue mansioni.

Fonti

• OpenAI: separare il segnale dal rumore nelle valutazioni della programmazione
• The Decoder: OpenAI scopre che circa il 30% di un diffuso test di programmazione per l’IA è difettoso
• Artificial Analysis: aggiornamento del Coding Agent Index