Un bot di supporto è passato dal risolvere un quarto dei ticket a risolverne la metà, senza un modello migliore

Pinecone, una società che costruisce infrastrutture per sistemi di intelligenza artificiale, ha annunciato il 6 agosto che il suo prodotto “livello di conoscenza”, Nexus, è generalmente disponibile. La presentazione è insolita per il settore dell’intelligenza artificiale: invece di promettere un modello migliore, Pinecone promette una migliore conoscenza per il modello che già avete, e i suoi risultati di benchmark confermano tale inquadramento.

In un test interno su τ-Knowledge, un benchmark aperto per gli agenti AI che svolgono un lavoro in stile servizio clienti, Pinecone ha fornito a due modelli OpenAI esistenti, GPT-5.2 e GPT-5.5, l’accesso a Nexus e li ha confrontati con gli stessi modelli senza di esso. GPT-5.2 ha risposto correttamente al 12% di domande in più, riducendo il costo per attività dell’80%; GPT-5.5 ha mantenuto la stessa precisione con un costo inferiore del 77%. Entrambi i modelli necessitavano di circa la metà delle “chiamate agli strumenti”, le singole ricerche effettuate da un agente mentre cercava di trovare una risposta. Pinecone ha anche gestito Nexus dietro il proprio agente di assistenza clienti a partire dal 17 luglio: la percentuale di ticket risolti dall’agente da solo è aumentata da circa il 25% al ​​55%.

Cosa sta realmente succedendo qui: la maggior parte degli agenti IA spreca la maggior parte dei propri sforzi nella ricerca, non nel ragionamento. Quando si pone una domanda a un agente sui documenti interni di un’azienda, in genere deve cercare ripetutamente, leggere frammenti di testo e riassemblare il contesto da zero su ogni singola richiesta, un processo chiamato generazione aumentata di recupero o RAG. Questa fase di ricerca è lenta, costosa e soggetta a errori, soprattutto quando la risposta giusta dipende da come due documenti sono correlati tra loro piuttosto che da ciò che è scritto in uno solo. Nexus invece pre-elabora (“compila”) i documenti di un’azienda una volta in una forma strutturata e interrogabile, in modo che l’agente ponga una domanda singola e precisa invece di cercare ogni volta nel testo grezzo. La lezione si generalizza oltre il prodotto stesso di Pinecone: molto di ciò che sembra un modello di intelligenza artificiale inaffidabile è in realtà il modello a cui vengono fornite informazioni disordinate e disorganizzate con cui lavorare.

Che cosa significa per te: se gestisci un’azienda che esplora gli agenti IA per supporto, ricerca o strumenti interni, questa è un’utile riformulazione: prima di dare per scontato che hai bisogno di un modello più costoso o capace, controlla se il collo di bottiglia è effettivamente il modo in cui i tuoi documenti e dati esistenti sono organizzati affinché l’agente possa cercarli. Per la maggior parte degli utenti quotidiani, questa è un’infrastruttura invisibile. Ma se sei stato frustrato dal fatto che il chatbot AI di un’azienda abbia sbagliato con sicurezza le cose, questo è più o meno il tipo di soluzione, una conoscenza meglio organizzata piuttosto che un modello più intelligente, che molto probabilmente risolverà effettivamente il problema.

Fonti

• Nexus GA: è la conoscenza, non i modelli - Pigna