Kontextkomprimierung
Definition
Context Compression verdichtet vorhandene Informationen für spätere Modellschritte.
Umfangreicher Kontext wird für spätere Modellschritte verdichtet, etwa durch Zusammenfassung, Tokenauswahl oder spezielle Kompaktierungselemente. Dabei können Details verloren gehen; Aufgabenqualität und erhaltene Randbedingungen müssen geprüft werden.
Einfach erklärt
Wie aus vielen Notizen eine kurze, nützliche Zusammenfassung machen.
Warum das im Alltag wichtig ist
Relevant, wenn lange Arbeitsverläufe das Kontextfenster oder das Kosten- und Latenzbudget belasten.
Beispiel aus dem Mittelstand
Hypothetisches Beispiel: Ein Assistent fasst einen langen Projektverlauf vor der nächsten Aufgabe zusammen.
Grenzen und Fallstricke
- Wichtige Ausnahmen, Quellen oder Unsicherheit beim Kürzen verlieren.
Entstehung & Geschichte
LLMLingua wurde 2023 als Verfahren zur Promptkompression veröffentlicht. Aktuelle APIs wie OpenAI Responses bieten außerdem eigene Kompaktierungsfunktionen für längere Abläufe.
Anwendung im Mittelstand
- Vor und nach der Verdichtung prüfen, ob Aufgaben, Quellen, Ausnahmen und offene Fragen erhalten bleiben; mit repräsentativen Folgeaufgaben testen.
Häufige Fragen
Ist Kontextkompression immer verlustfrei?
Nein. Ist sie dasselbe wie Caching? Nein. Was sollte geprüft werden? Ob wichtige Randbedingungen und Quellen für die Folgeaufgabe erhalten bleiben.
Quellen
- LLMLingua · Jiang et al. (2023), LLMLingua
- Compaction · OpenAI, Compaction
Quellen geprüft am 09.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: