Momentum
Definition
Momentum stabilisiert die Richtung der Schritte beim Modelltraining.
Ein Optimierungsverfahren, das einen geglätteten Verlauf früherer Gradienten nutzt, um Richtung zu stabilisieren und Täler schneller zu durchqueren.
Einfach erklärt
Wie Schwung beim Rollen wirkt die bisherige Bewegung auf den nächsten Lernschritt weiter.
Warum das im Alltag wichtig ist
Hilft, Modellqualität, Grenzen und technische Entscheidungen realistisch einzuordnen.
Beispiel aus dem Mittelstand
Stark wechselnde Mini-Batch-Gradienten werden über einen Impulsterm geglättet.
Grenzen und Fallstricke
- Die Wechselwirkung von Momentum und Lernrate ignorieren oder Oszillation und Überschwingen nicht überwachen.
Entstehung & Geschichte
Momentum wurde aus numerischer Optimierung in das Training neuronaler Netze übernommen.
Anwendung im Mittelstand
- Mögliche Anwendung: Stark wechselnde Mini-Batch-Gradienten werden über einen Impulsterm geglättet.
Häufige Fragen
Was bedeutet Momentum?
Ein Optimierungsverfahren, das einen geglätteten Verlauf früherer Gradienten nutzt, um Richtung zu stabilisieren und Täler schneller zu durchqueren.
Welche Fehler sollte man vermeiden?
Die Wechselwirkung von Momentum und Lernrate ignorieren oder Oszillation und Überschwingen nicht überwachen.
Quellen
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: