La nuova Agentic Search di Mistral consente all'intelligenza artificiale di leggere effettivamente i tuoi documenti
Il laboratorio francese di intelligenza artificiale ha lanciato un sistema di recupero che consente ai modelli di aprire, navigare e verificare da soli documenti complessi, più che triplicando la precisione rispetto a un benchmark finanziario.
Mistral, il laboratorio francese di intelligenza artificiale, ha lanciato una funzionalità chiamata Agentic Search il 20 agosto. È un nuovo modo per i modelli di intelligenza artificiale di scavare tra documenti, tabelle, note a piè di pagina e tutto il resto, prima di rispondere a una domanda, invece di affidarsi esclusivamente al vecchio metodo che la maggior parte degli strumenti di intelligenza artificiale utilizza ancora.
Quel vecchio metodo si chiama RAG, retrieval-augmented generation: il sistema cerca in un database pezzi di testo che sembrano rilevanti, li passa al modello e spera che la risposta sia lì dentro. Agentic Search fornisce invece al modello cinque abilità extra, ricerca, apertura, navigazione, lettura e grep (un modo di scansionare il testo per modelli specifici), permettendogli di comportarsi più come una persona che lavora effettivamente su un documento: aprire un file, controllare una tabella, seguire un riferimento a un’altra sezione, perfezionare la propria query se il primo tentativo fallisce. Su FinanceBench, un benchmark che testa le risposte alle domande su centinaia di documenti finanziari reali della SEC, Mistral afferma che la precisione è passata dal 26,7% con i metodi più vecchi all’86% con Agentic Search. È ora disponibile tramite il Search Toolkit di Mistral per configurazioni personalizzate e integrato direttamente nelle librerie all’interno dei prodotti Studio e Vibe di Mistral.
Cosa sta realmente succedendo qui: chiunque abbia provato a porre a un chatbot AI una domanda precisa su un lungo PDF, un contratto, un rapporto finanziario, un manuale tecnico, conosce il risultato frustrante: una risposta apparentemente sicura che è sottilmente sbagliata perché il modello ha visto solo un frammento del testo rilevante. Questa è la modalità di errore nel mondo reale in cui si imbattono costantemente gli strumenti basati su RAG. Lasciare che il modello navighi attivamente in un documento, nel modo in cui passeresti a pagina 40 perché è lì che risiedono effettivamente i numeri di cui hai bisogno, colma gran parte di questo divario. Secondo quanto riferito, lo fa anche in modo più efficiente, con meno turni avanti e indietro e un minore utilizzo di token (i token sono i pezzi di testo con cui i sistemi di intelligenza artificiale vengono fatturati), il che è importante per chiunque lo esegua su larga scala. Per Mistral, si tratta anche di rimanere rilevanti nell’intelligenza artificiale aziendale rispetto a laboratori statunitensi molto più grandi e meglio finanziati, fornendo strumenti pratici che risolvono bene un punto dolente specifico e comune.
Cosa significa per te: se tu o la tua azienda avete a che fare con documenti lunghi e densi, rapporti finanziari, contratti legali, specifiche tecniche e utilizzate strumenti di intelligenza artificiale per cercarli o riassumerli, questo è il tipo di miglioramento che potrebbe ridurre in modo significativo le risposte allucinate o incomplete. Per la maggior parte degli utenti occasionali di chatbot, non sarà visibile direttamente, ma è un buon segno della direzione in cui si stanno dirigendo gli strumenti di ricerca dell’intelligenza artificiale: meno “indovina da un frammento”, più “andate a cercarlo correttamente”.
Fonti
L'unità robotica di XPeng ha appena raccolto 900 milioni di dollari per la sua spinta umanoide
La filiale di robotica di XPeng, sostenuta da Alibaba e Tencent, ha ora un valore di oltre 6,3 miliardi di dollari in anticipo rispetto alla produzione di massa del suo robot umanoide IRON.
