Langer Kontext
Definition
Langer Kontext bezeichnet Modellnutzung mit sehr großen Eingabekontexten bzw. Kontextfenstern.
Ein großes nominelles Kontextfenster bedeutet nicht, dass Informationen an jeder Position gleich zuverlässig genutzt werden. Retrieval, Strukturierung und Positionseffekte bleiben wichtig.
Einfach erklärt
Wie ein sehr dickes Dossier auf einmal mitzugeben – ohne Garantie, dass jede Seite gleich gut berücksichtigt wird.
Warum das im Alltag wichtig ist
Relevant für lange Dokumente, Codebasen und Multi-Dokument-Aufgaben.
Beispiel aus dem Mittelstand
Ein Assistent erhält mehrere Verträge, wird aber mit Positions- und Retrievaltests auf relevante Klauseln geprüft.
Grenzen und Fallstricke
- Kontextfenster mit effektivem Verständnis gleichsetzen; unnötig alles in Prompt laden; Kosten und Latenz ignorieren.
Entstehung & Geschichte
Lange Kontextfenster wurden mit Transformer-Optimierungen und größerem Inferenzspeicher stark erweitert; Studien zeigen weiterhin „lost in the middle“-Effekte.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Nur relevante Inhalte einbringen und Long-Context-Qualität mit eigenen Aufgaben evaluieren.
Häufige Fragen
Ist mehr Kontext immer besser?
Nein. Ersetzt Long Context RAG? Nicht grundsätzlich.
Quellen
- Lost in the Middle · Liu et al. (2023), Lost in the Middle
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: