Logit-Bias
Definition
Logit-Bias verändert vor dem Sampling die Rohscores bestimmter Tokens und beeinflusst damit ihre Auswahlwahrscheinlichkeit.
Je nach API oder Implementierung werden positive oder negative Werte zu Token-Logits addiert. Das ist ein kontrollierender Eingriff in Decoding, keine Garantie für ein bestimmtes Ergebnis.
Einfach erklärt
Wie einzelnen Wörtern vor der Auswahl Bonus- oder Maluspunkte zu geben.
Warum das im Alltag wichtig ist
Relevant für spezielle Generationskontrollen, aber fehleranfällig wegen Tokenisierung.
Beispiel aus dem Mittelstand
Ein System senkt den Score eines unerwünschten Tokens und prüft, ob semantische Umgehungen trotzdem auftreten.
Grenzen und Fallstricke
- Text statt Token-IDs denken; harte Sicherheit mit Logit Bias bauen; zusammengesetzte Tokens ignorieren.
Entstehung & Geschichte
Logit-Manipulation ist eine allgemeine Decoding-Technik; verschiedene Modell-APIs stellen dafür unterschiedliche Schnittstellen bereit.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Nur für eng begrenzte Ausgabepräferenzen nutzen, nicht als Sicherheitskontrolle.
Häufige Fragen
Kann Logit Bias ein Wort sicher verbieten?
Nicht zuverlässig wegen Tokenisierung und Umformulierungen.
Quellen
- Chat Completions, logit_bias · OpenAI API, Chat Completions, logit_bias
- Using logit bias · OpenAI, Using logit bias
Quellen geprüft am 12.10.2026.
Redaktionell geprüft am: