RAG steht für Retrieval-Augmented Generation und meint die Kombination vorhandener Daten (Foundation) mit Daten aus neuen, externen Dokumenten. Dadurch soll sich die Datenbasis deutlich verbessern, was Antworten hilfreicher, aktueller sowie spezifischer ausfallen lassen kann.
RAG ist besonders nützlich für Unternehmenswissen, aktuelle Informationen und Compliance. Es reduziert Halluzinationen und macht Antworten nachvollziehbarer, wenn die Quellen passen. Daher versucht man als smarter Anwender beim Einsatz von KI-Lösungen die Nutzung von RAG gezielt einzusetzen.