Mathematische Optimierung
Momentum
Mechanismus
Einbeziehung vergangener Gradientenänderungen über einen exponentiellen Dämpfungsfaktor, um die Bewegungsrichtung zu stabilisieren.
Implikation
Hilft dem Optimierungsalgorithmus, flache Plateaus und lokale Minima auf der Verlustoberfläche schneller zu überwinden.