Steuerungsvektor
Definition
Ein Steuerungsvektor verändert interne Aktivierungen eines neuronalen Netzes, um dessen Verhalten bei der Ausgabe zu beeinflussen.
Ein Steuerungsvektor ist eine Richtung im Aktivierungsraum eines neuronalen Netzes, die während der Inferenz hinzugefügt oder verstärkt wird, um Verhalten zu beeinflussen.
Einfach erklärt
Wie ein Regler im Inneren des Modells: Er verstärkt ein bestimmtes Muster und kann dadurch etwa Ton oder Inhalt der Antwort verändern.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Ein Forschungsteam verändert eine Aktivierungsrichtung und misst systematisch Auswirkungen auf Ton, Inhalt und Nebenwirkungen.
Grenzen und Fallstricke
- Ein beobachteter Effekt ist nicht automatisch kausal oder stabil; Eingriffe können unvorhersehbare Fähigkeiten verändern.
Entstehung & Geschichte
Forschung zu Activation Addition und Representation Engineering machte solche Eingriffe ab 2023 als Interpretierbarkeits- und Kontrollmethode bekannt.
Anwendung im Mittelstand
- Mögliche Anwendung: Ein Forschungsteam verändert eine Aktivierungsrichtung und misst systematisch Auswirkungen auf Ton, Inhalt und Nebenwirkungen.
Häufige Fragen
Was bedeutet Steuerungsvektor?
Ein Steuerungsvektor ist eine Richtung im Aktivierungsraum eines neuronalen Netzes, die während der Inferenz hinzugefügt oder verstärkt wird, um Verhalten zu beeinflussen. Worauf sollte man achten? Ein beobachteter Effekt ist nicht automatisch kausal oder stabil; Eingriffe können unvorhersehbare Fähigkeiten verändern.
Quellen
- Activation Addition: Steering Language Models Without Optimization · Turner et al., Activation Addition: Steering Language Models Without Optimization
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: