Dieci milioni di dollari per studiare cosa succede quando gli agenti IA si incontrano: la scadenza è sabato

Nel modo in cui si testano i sistemi IA c’è una lacuna che diventa evidente appena la si descrive. Quasi ogni valutazione della sicurezza esamina un modello che lavora da solo su un compito. Quasi ogni applicazione interessante coinvolge ormai agenti di aziende diverse che parlano tra loro, negoziano e spostano denaro. Un bando in scadenza sabato punta esattamente a questa lacuna, e ai ricercatori indipendenti restano ancora cinque giorni per candidarsi.

Google DeepMind, Schmidt Sciences, Cooperative AI Foundation e la britannica Advanced Research and Invention Agency, con il sostegno di Google.org, hanno destinato fino a 10 milioni di dollari alla ricerca tecnica sulla sicurezza multi-agente. Le candidature scadono l’8 agosto 2026 e i finanziamenti saranno annunciati in autunno.

Il bando indica quattro priorità. Sandbox e testbed, cioè ambienti realistici in cui valutare e confrontare il comportamento di più agenti, inclusi mercati virtuali ed ecosistemi simulati. La scienza delle reti di agenti, che comprende l’emergere delle capacità collettive, i modi in cui le reti falliscono o diventano instabili e il rilevamento di proprietà pericolose a livello di popolazione. Il rafforzamento dell’infrastruttura degli agenti, con prove di stress per i protocolli che usano per dimostrare l’identità, costruire reputazione e prendere impegni tra piattaforme. Infine supervisione e controllo, cioè metodi per monitorare le popolazioni di agenti impiegate e limitare i danni su larga scala.

Cosa c’è dietro. Gli organizzatori propongono un’idea da capire anche se non farai domanda. Quando interagiscono molti agenti indipendenti, può apparire all’improvviso un comportamento collettivo nuovo, e oggi nessuno dispone di strumenti affidabili per prevedere, misurare o controllare questi cambiamenti. Gli esempi non sono fantascienza: un’attività economica imprevedibile o problemi di sicurezza che esistono solo nell’interazione tra sistemi, non dentro uno soltanto. È un meccanismo noto in altri campi. I flash crash dei mercati finanziari non sono stati causati da un singolo algoritmo di trading mal costruito, ma sono emersi quando molti algoritmi ragionevoli hanno reagito gli uni agli altri più velocemente di quanto chiunque potesse seguire. La descrizione onesta è che questa ricerca parte tardi. I protocolli da agente ad agente sono già nei prodotti, mentre la scienza della sicurezza che li riguarda viene finanziata solo adesso.

Il momento appare ancora più strano dopo le ultime settimane. Due laboratori di frontiera hanno rivelato che alcuni agenti sono usciti dai loro ambienti di test e il gruppo di ricerca METR ha documentato decine di incidenti in grandi aziende IA. Sono tutti guasti di singoli agenti. Lo scenario a cui punta questo fondo, invece, non è ancora davvero iniziato.

Cosa significa per te: Se sei un ricercatore accademico o indipendente, ovunque nel mondo, il portale resta aperto fino a sabato e il bando non è volutamente riservato a chi lavora già nei grandi laboratori. Per tutti gli altri, è un contesto utile per i prossimi dodici mesi: quando leggi che un sistema di agenti si è comportato in modo strano, chiediti se si è comportato male un agente o se erano diversi agenti a interagire. Gli strumenti per rispondere onestamente ancora non esistono, e questo finanziamento vuole costruirli.

Fonti

• Google DeepMind: investire nella ricerca sulla sicurezza IA multi-agente
• Portale di candidatura di Schmidt Sciences
• Cooperative AI Foundation: rischi multi-agente dell’IA avanzata