RAG (Retrieval-Augmented Generation)
Definition
RAG verbindet ein Sprachmodell mit einem externen, durchsuchbaren Wissensspeicher, sodass Antworten auf abgerufenen Informationen und nicht nur auf den Modellparametern beruhen.
RAG-Modelle kombinieren ein vortrainiertes Sprachmodell (parametrischer Speicher) mit einem externen Wissensspeicher (nicht-parametrischer Speicher), auf den ein neuronaler Abrufer (Retriever) zugreift. In der Originalarbeit von Lewis et al. ist dieser Speicher ein dichter Vektorindex von Wikipedia. Für den Abruf nennt die Dokumentation von Azure AI Search Vektor-, Schlüsselwort- und hybride Suche.
Einfach erklärt
Wie Nachschlagen vor dem Antworten: Du suchst erst passende Textstellen und formulierst die Antwort aus den gefundenen Informationen.
Warum das im Alltag wichtig ist
Betriebe können Sprachmodellantworten an eigene Dokumente knüpfen. Dafür müssen Inhalte aufbereitet und Zugriffsrechte so umgesetzt werden, dass nur berechtigte Informationen abgerufen werden.
Beispiel aus dem Mittelstand
Mögliches Beispiel: Servicetechniker eines Maschinenbauers durchsuchen im Kundengespräch per Chat einen großen Bestand an PDF-Wartungshandbüchern.
Grenzen und Fallstricke
- Unlesbare Scans, ungeeignete Textabschnitte und veraltete Suchindizes verschlechtern den Abruf. Fehlende Zugriffskontrollen können vertrauliche Inhalte offenlegen; manipulierte Dokumente können versteckte Anweisungen enthalten.
Entstehung & Geschichte
Lewis und weitere Autorinnen und Autoren reichten die Arbeit zu RAG für wissensintensive Sprachaufgaben am 22. Mai 2020 als Preprint ein; sie wurde bei NeurIPS 2020 angenommen.
Anwendung im Mittelstand
- Mögliche Anwendungen: internes Wissensmanagement, assistierende Ticketbeantwortung im Support und Unterstützung bei der Vertragsprüfung mit fachlicher Ergebnisprüfung.
Häufige Fragen
Verändert RAG automatisch die Modellgewichte?
Nein. Beim Abruf verwendet es Suchergebnisse; zusätzliches Fine-Tuning ist ein eigener Schritt.
Hilft RAG bei veraltetem Modellwissen?
Ein aktualisierter Wissensspeicher kann neuere Informationen bereitstellen.
Bleiben die Fundstellen für eine Antwort gleich?
Je nach Variante werden dieselben Passagen für die ganze Antwort oder unterschiedliche Passagen je Token verwendet.
Quellen
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks · Lewis et al. (2021): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- Retrieval-augmented generation (RAG) in Azure AI Search · Microsoft (2026): Retrieval-augmented generation (RAG) in Azure AI Search
- Hybrid search using vectors and full-text search in Azure AI Search · Microsoft (2026): Hybrid search using vectors and full-text search in Azure AI Search
- Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection · Greshake et al. (2023): Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Quellen geprüft am 14.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am:
Auf dieser Seite
Nächster Schritt
RAG im eigenen Unternehmen einsetzen?
Gemeinsam schauen wir, wo dein Wissen heute liegt und wie ein Assistent daraus verlässliche, nachvollziehbare Antworten machen kann.
- Einschätzung, welche Dokumente und Datenquellen sich eignen
- Klare Aussagen zu Datenschutz und Zugriffsrechten
- Unverbindlich und ohne Verkaufsdruck