Prinzip der Kleinsten Quadrate

Das Prinzip der kleinsten Quadrate bestimmt Modellparameter durch Minimierung der Summe der quadrierten Residuen zwischen beobachteten Werten und Modellvorhersagen: arg min_θ Σ_i (y_i - f(x_i; θ))^2. Es definiert eine Loss‑Funktion, die in linearen Modellen geschlossene Formlösungen liefert und unter i.i.d. gaußschem Additivrauschen dem Maximum­Likelihood‑Schätzer entspricht.