Präfix-Tuning
Definition
Präfix-Tuning trainiert zusätzliche Anfangsvektoren bei unveränderten Modellgewichten.
Ein PEFT-Verfahren, das lernbare kontinuierliche Präfixvektoren optimiert, während die eigentlichen Modellgewichte eingefroren bleiben.
Einfach erklärt
Das Modell bleibt selbst unverändert; kleine vorgeschaltete Zahlenbausteine werden für die Aufgabe angepasst.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Für eine Textaufgabe werden kleine Präfixparameter statt des gesamten Modells trainiert.
Grenzen und Fallstricke
- Mit textlichem Prompting verwechseln oder Portabilität zwischen Modellversionen annehmen.
Entstehung & Geschichte
Li und Liang veröffentlichten Prefix-Tuning 2021.
Anwendung im Mittelstand
- Mögliche Anwendung: Für eine Textaufgabe werden kleine Präfixparameter statt des gesamten Modells trainiert.
Häufige Fragen
Was bedeutet Präfix-Tuning?
Ein PEFT-Verfahren, das lernbare kontinuierliche Präfixvektoren optimiert, während die eigentlichen Modellgewichte eingefroren bleiben. Welche Fehler sollte man vermeiden? Mit textlichem Prompting verwechseln oder Portabilität zwischen Modellversionen annehmen.
Quellen
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: