Generazione aumentata tramite recupero
Una tecnica che fornisce a un modello estratti pertinenti dei propri documenti prima della risposta.
La generazione aumentata tramite recupero, solitamente abbreviata in RAG, è un metodo comune per far rispondere un modello linguistico usando i propri dati. Invece di affidarsi soltanto a ciò che ha imparato durante l’addestramento, il sistema prima recupera i passaggi più pertinenti da un archivio di documenti e li aggiunge al prompt, così che il modello possa fondare la risposta su quelle fonti.
La RAG è alla base della maggior parte degli strumenti per «chattare con i propri documenti». Con l’aumento delle finestre di contesto, alcuni casi semplici possono farne a meno, ma per basi di conoscenza grandi o aggiornate di frequente il recupero resta l’approccio pratico.