Lottery-Ticket-Hypothese
Definition
Die Lottery-Ticket-Hypothese besagt, dass große zufällig initialisierte Netze kleinere Subnetze enthalten können, die mit geeigneter Initialisierung effektiv trainierbar sind.
„Winning Tickets“ werden typischerweise durch Pruning-Experimente gesucht. Die Hypothese inspirierte Forschung zu Sparsity und Pruning, ist aber keine allgemeine Garantie für jedes Modell.
Einfach erklärt
Wie in einem großen Netz schon früh eine kleine besonders günstige Teilstruktur zu finden.
Warum das im Alltag wichtig ist
Relevant für Modellkompression und Grundlagenforschung.
Beispiel aus dem Mittelstand
Ein Experiment pruned ein Netz iterativ und trainiert Subnetze mit zurückgesetzten Initialisierungen.
Grenzen und Fallstricke
- Die Hypothese ist kein allgemeines Erfolgsrezept für den Produktivbetrieb. Auch die Suche nach geeigneten Teilnetzen verursacht Rechenaufwand.
Entstehung & Geschichte
Frankle und Carbin stellten die Lottery Ticket Hypothesis 2018/2019 vor.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Vor allem als Forschungskonzept für Sparsity und Pruning einordnen.
Häufige Fragen
Ist ein Winning Ticket vor Training bekannt?
Normalerweise nicht. Bedeutet LTH, dass große Modelle unnötig sind? Nicht direkt.
Quellen
- The Lottery Ticket Hypothesis · Frankle & Carbin (2019), The Lottery Ticket Hypothesis
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: