Promptbudget
Definition
Den verfügbaren Raum einer Modelleingabe planen.
Ein Promptbudget legt fest, wie viele Eingabetoken für Anweisungen, Gesprächsverlauf und Zusatzwissen verwendet werden dürfen.
Einfach erklärt
Ein begrenzter Koffer muss das Wichtigste aufnehmen und Platz für die Antwort lassen.
Warum das im Alltag wichtig ist
Gezielte Begrenzung hilft, Kontextgrenzen, Kosten und Antwortzeit zu kontrollieren.
Beispiel aus dem Mittelstand
Ein fiktiver Assistent reserviert feste Anteile für Regeln, Frage und relevante Handbuchauszüge.
Grenzen und Fallstricke
- Zu starkes Kürzen kann entscheidende Ausnahmen entfernen; Token sind nicht gleich Wörter.
Entstehung & Geschichte
Der Begriff stammt aus dem praktischen Umgang mit begrenzten Kontextfenstern.
Anwendung im Mittelstand
- Tokenbedarf messen und Inhalte nach Relevanz priorisieren.
Häufige Fragen
Zählt die Antwort zum Eingabebudget?
Nein; beide Budgets müssen gemeinsam zur Modellgrenze passen.
Quellen
Redaktionell geprüft am: