Retrieval-Augmented Generation

Eine Technik, die einem Modell vor der Antwort relevante Auszüge aus deinen Dokumenten bereitstellt.

Retrieval-Augmented Generation, meist RAG abgekürzt, ist ein gängiger Weg, ein Sprachmodell mit eigenen Daten antworten zu lassen. Statt sich nur auf das beim Training Gelernte zu verlassen, ruft das System zunächst die relevantesten Passagen aus einem Dokumentenspeicher ab und fügt sie der Eingabe hinzu. So kann das Modell seine Antwort auf diese Quellen stützen.

RAG bildet das Rückgrat der meisten Werkzeuge zum „Chatten mit Dokumenten“. Mit wachsenden Kontextfenstern können einfache Fälle darauf verzichten. Für große oder häufig veränderte Wissensbestände bleibt der Abruf jedoch der praktische Ansatz.

Erwähnt in