Kontinuierlicher Prompt (Soft Prompt)
Definition
Ein Soft Prompt steuert ein Modell mit trainierbaren Zahlenvektoren statt ausschließlich mit geschriebenen Anweisungen.
Ein Soft Prompt ist eine trainierbare Folge kontinuierlicher Vektoren, die einem eingefrorenen Sprachmodell als zusätzlicher Kontext vorangestellt wird.
Einfach erklärt
Das Modell bekommt gelernte Zahlenhinweise vorangestellt, während seine übrigen Einstellungen unverändert bleiben.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Ein Team trainiert pro Klassifikationsaufgabe wenige Promptvektoren, ohne alle Modellgewichte zu verändern.
Grenzen und Fallstricke
- Soft Prompts sind nicht direkt menschenlesbar; Übertragbarkeit und Verhalten außerhalb der Trainingsdaten müssen geprüft werden.
Entstehung & Geschichte
Prompt Tuning wurde 2021 als parameter-effizientes Verfahren für große Sprachmodelle beschrieben.
Anwendung im Mittelstand
- Mögliche Anwendung: Ein Team trainiert pro Klassifikationsaufgabe wenige Promptvektoren, ohne alle Modellgewichte zu verändern.
Häufige Fragen
Was bedeutet Kontinuierlicher Prompt (Soft Prompt)?
Ein Soft Prompt ist eine trainierbare Folge kontinuierlicher Vektoren, die einem eingefrorenen Sprachmodell als zusätzlicher Kontext vorangestellt wird. Worauf sollte man achten? Soft Prompts sind nicht direkt menschenlesbar; Übertragbarkeit und Verhalten außerhalb der Trainingsdaten müssen geprüft werden.
Quellen
- The Power of Scale for Parameter-Efficient Prompt Tuning · Lester et al., The Power of Scale for Parameter-Efficient Prompt Tuning
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: