Eingabetoken
Definition
Die vom Modell verarbeiteten Eingabeeinheiten.
Eingabetoken sind die durch Tokenisierung entstehenden Einheiten der Modelleingabe, einschließlich übermittelter Anweisungen, Gesprächsteile und Zusatzinformationen.
Einfach erklärt
Ein Text wird in kleine Bausteine zerlegt, die das Modell verarbeitet.
Warum das im Alltag wichtig ist
Ihre Anzahl beeinflusst Kontextbedarf und häufig die Abrechnung eines Modellaufrufs.
Beispiel aus dem Mittelstand
Ein fiktiver Assistent zählt Frage, Gesprächsverlauf und Handbuchauszüge gemeinsam als Eingabe.
Grenzen und Fallstricke
- Tokenzahl hängt vom Tokenizer ab; Wortzahl und Zeichenanzahl sind kein exakter Ersatz.
Entstehung & Geschichte
Der Begriff stammt aus der Tokenisierung und der Nutzung von Sprachmodellen.
Anwendung im Mittelstand
- Den tatsächlich verwendeten Tokenizer oder die Nutzungsangaben des Dienstes verwenden.
Häufige Fragen
Zählen Systemanweisungen mit?
Wenn sie an das Modell übermittelt werden, grundsätzlich ja.
Quellen
Redaktionell geprüft am: