Modellextraktion
Definition
Modellextraktion versucht, Modellverhalten oder Eigenschaften anhand systematischer Abfragen nachzubilden.
Das Nachbilden von Verhalten oder Eigenschaften eines fremden Modells durch systematische Abfragen und beobachtete Ausgaben.
Einfach erklärt
Wie aus vielen beobachteten Antworten die Arbeitsweise eines Dienstes nachzuahmen; daraus folgt keine Kopie aller inneren Bauteile.
Warum das im Alltag wichtig ist
Hilft, Modellqualität, Grenzen und technische Entscheidungen realistisch einzuordnen.
Beispiel aus dem Mittelstand
Ein Angreifer sammelt API-Antworten und trainiert damit ein Ersatzmodell.
Grenzen und Fallstricke
- Normales Benchmarking mit Angriff gleichsetzen oder Bedrohungsmodell und Rechte nicht klären.
Entstehung & Geschichte
Tramèr und Mitautor:innen zeigten 2016 praktische Extraktionsangriffe gegen ML-Dienste.
Anwendung im Mittelstand
- Mögliche Anwendung: Ein Sicherheitsteam untersucht in einem autorisierten Test die Nachbildbarkeit eines Dienstes aus API-Antworten. Es dokumentiert Abfragebudget, Bedrohungsmodell und Schutzwirkung.
Häufige Fragen
Was bedeutet Modellextraktion?
Das Nachbilden von Verhalten oder Eigenschaften eines fremden Modells durch systematische Abfragen und beobachtete Ausgaben.
Welche Fehler sollte man vermeiden?
Normales Benchmarking mit Angriff gleichsetzen oder Bedrohungsmodell und Rechte nicht klären.
Quellen
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: