Ein iteratives Optimierungsverfahren, das Parameter aktualisiert, indem es sie entgegengesetzt zum Gradienten einer Zielgröße bewegt, skaliert durch eine Schrittgröße, um den Funktionswert zu reduzieren.
Ein iteratives Optimierungsverfahren, das Variablen aktualisiert, indem es in Richtung des negativen Gradienten einer Zielfunktion geht, um deren Wert zu verringern; typischerweise mit Kontrolle der Schrittweite (Lernrate).