Cache-Augmented Generation (CAG)
Die Kurzantwort · 25 Wörter
Kurz erklärt
Ansatz, bei dem ein begrenzter Wissensbestand vorab in den langen Modellkontext geladen und über einen KV-Cache wiederverwendet wird, statt bei jeder Anfrage Dokumente neu abzurufen.
Flow-alerta.cab (2026): Cache-Augmented Generation (CAG). https://flow-alerta.cab/glossar/cache-augmented-generation-cag. Redaktionell geprüft am: 09. Oktober 2026.
Wie ausführlich soll es sein?
Praxis
Interessant für kleine bis mittlere, stabile Wissenssammlungen, wenn Retrieval-Latenz und -Fehler vermieden werden sollen und das Kontextfenster groß genug ist.
Beispielszenario: Ein Assistent für ein kompaktes Produkthandbuch lädt das gesamte freigegebene Handbuch einmal vor und beantwortet danach mehrere Fragen aus dem gecachten Kontext.
Nur prüfen, wenn Wissensumfang, Änderungsfrequenz und Kontextfenster dazu passen; gegen RAG hinsichtlich Qualität, Latenz, Kosten und Aktualisierbarkeit testen.
Auf einen Blick
- Kern
- Cache-Augmented Generation wurde als Alternative für Wissensaufgaben mit überschaubarem, relativ stabilem Dokumentbestand vorgeschlagen. Relevante Inhalte werden vor der Anfrage in den Kontext geladen und deren Key-Value-Zustände gecacht. Dadurch entfällt eine separate Retrieval-Stufe zur Laufzeit. CAG ist nicht für jeden Wissensbestand geeigneter als RAG.
- Nutzen
- Interessant für kleine bis mittlere, stabile Wissenssammlungen, wenn Retrieval-Latenz und -Fehler vermieden werden sollen und das Kontextfenster groß genug ist.
- Beispiel
- Beispielszenario: Ein Assistent für ein kompaktes Produkthandbuch lädt das gesamte freigegebene Handbuch einmal vor und beantwortet danach mehrere Fragen aus dem gecachten Kontext.
- Grenzen
- CAG pauschal als Ersatz für RAG darstellen; zu große oder häufig wechselnde Wissensbestände vollständig vorladen; Kontextgrenzen und Cachekosten ignorieren; Aktualisierung des Caches vergessen.
Im Zusammenhang
Kontext-Fenster (Context Window)
Das Kontextfenster begrenzt, wie viel Inhalt ein Modell gleichzeitig berücksichtigen kann.
Prompt- und Präfix-Caching
Prompt Caching verwendet bereits verarbeitete Eingabeteile erneut, soweit ein Anbieter das unterstützt.
Wissensbasis
Eine Wissensbasis ist eine gepflegte Sammlung von Wissen, Anleitungen und Antworten für eine bestimmte Zielgruppe.
Fragen, die dazu gestellt werden
Ist CAG dasselbe wie RAG?
Nein.
Braucht CAG ein großes Kontextfenster?
Für umfangreichere Wissensbestände ja.
Ist CAG immer schneller oder besser?
Nein, das hängt vom Anwendungsfall ab.
Alle Details und Hintergründe
Cache-Augmented Generation wurde als Alternative für Wissensaufgaben mit überschaubarem, relativ stabilem Dokumentbestand vorgeschlagen. Relevante Inhalte werden vor der Anfrage in den Kontext geladen und deren Key-Value-Zustände gecacht. Dadurch entfällt eine separate Retrieval-Stufe zur Laufzeit. CAG ist nicht für jeden Wissensbestand geeigneter als RAG.
ELI5 – Einfach erklärt
Statt bei jeder Frage passende Dokumente zu suchen, lädt das System einen handhabbaren Wissensbestand vorher und hält ihn für mehrere Fragen im Modellkontext bereit.
Warum das im Alltag wichtig ist
Interessant für kleine bis mittlere, stabile Wissenssammlungen, wenn Retrieval-Latenz und -Fehler vermieden werden sollen und das Kontextfenster groß genug ist.
Beispiel
Beispielszenario: Ein Assistent für ein kompaktes Produkthandbuch lädt das gesamte freigegebene Handbuch einmal vor und beantwortet danach mehrere Fragen aus dem gecachten Kontext.
Fallstricke und Grenzen
- CAG pauschal als Ersatz für RAG darstellen; zu große oder häufig wechselnde Wissensbestände vollständig vorladen; Kontextgrenzen und Cachekosten ignorieren; Aktualisierung des Caches vergessen.
Entstehung & Geschichte
Der Begriff Cache-Augmented Generation wurde Ende 2024 in einer Arbeit von Chan und Mitautoren als vereinfachte Alternative zu RAG für begrenzte Wissensaufgaben vorgeschlagen.
Anwendung im Mittelstand
- Nur prüfen, wenn Wissensumfang, Änderungsfrequenz und Kontextfenster dazu passen; gegen RAG hinsichtlich Qualität, Latenz, Kosten und Aktualisierbarkeit testen.
Verwandte Begriffe
- RAG
- KV-Cache
- Kontext-Fenster
- Prompt Caching
- Wissensbasis
Passende Flow-alerta-Leistung
KI-Assistenten & AutomatisierungKI-Assistenten & Automatisierung: einen passenden Ablauf mit klaren Rechten und menschlichen Prüfpunkten erproben.Passendes Tool / Use Case
Praxisbeispiele ansehenUse Case: Assistent auf Basis eines kompakten, selten veränderten Dokumentbestands.Quellen
- arxiv.orgChan et al., Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks
Quellenprüfung: 09.10.2026. Definition und dokumentierte Einordnung abgeglichen; Beispiele beschreiben mögliche Anwendungen.
Redaktionell geprüft am: