#061 Was ist Retrieval Augmented Generation (RAG)
RAG: Suchergebnisse mit KI kombinieren
Für komplexe und wissensintensive Aufgaben kann ein LLM-System entwickelt werden, das externe Wissensquellen nutzt, um Aufgaben zu vervollständigen. Dadurch wird die tatsächliche Konsistenz verbessert, die Antworten werden zuverlässiger und das Problem der "Halluzination" wird reduziert.
Retrieval Augmented Generation (kurz RAG) kombiniert eine Komponente für die Informationssuche mit der KI. RAG kann durch Feinabstimmung optimiert werden, ohne das gesamte Modell neu trainieren zu müssen.
RAG nimmt eine Eingabe entgegen und ruft eine Gruppe von Dokumenten aus einer Quelle (z. B. Intranet) ab. Die Dokumente werden als Kontext mit der ursprünglichen Eingabeaufforderung verbunden und dem Textgenerator zugeführt, der die endgültige Ausgabe erzeugt. Dadurch wird RAG anpassungsfähig für Situationen, in denen sich Fakten im Laufe der Zeit ändern können.
Anwendungsfälle sind:
- Chat mit dem Intranet
- Chat mit Knowledgebase
- Chat mit Dokumenten
Zusätzliche Quellen:
