Vokabular eines Modells
Definition
Das Modellvokabular legt fest, welche Textbausteine ein Tokenizer und sein Modell gemeinsam verwenden.
Die endliche Menge diskreter Token-IDs und Zuordnungen, die ein Tokenizer und Modell gemeinsam verwenden.
Einfach erklärt
Das Modell hat einen festen Baukasten aus Textstücken. Jedes Stück besitzt eine Nummer, mit der das Modell arbeitet.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Ein Fachmodell ergänzt sein Vokabular nur mit anschließend angepassten Embeddings und Kompatibilitätstests.
Grenzen und Fallstricke
- Ein Wörterbuch ist kein Modellvokabular; Änderungen brechen Token-IDs, Checkpoints und Kostenvergleiche.
Entstehung & Geschichte
Subword-Tokenisierung machte lernbare Vokabulare für offene Wortschätze in neuronalen Sprachmodellen üblich.
Anwendung im Mittelstand
- Mögliche Anwendung: Ein Fachmodell ergänzt sein Vokabular nur mit anschließend angepassten Embeddings und Kompatibilitätstests.
Häufige Fragen
Was bedeutet Vokabular eines Modells?
Die endliche Menge diskreter Token-IDs und Zuordnungen, die ein Tokenizer und Modell gemeinsam verwenden. Worauf sollte man achten? Ein Wörterbuch ist kein Modellvokabular; Änderungen brechen Token-IDs, Checkpoints und Kostenvergleiche.
Quellen
- SentencePiece · Kudo and Richardson, SentencePiece
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: