Principe des Moindres Carrés

Le Principe des Moindres Carrés détermine les paramètres d’un modèle en minimisant la somme des carrés des résidus entre valeurs observées et prédictions du modèle : arg min_θ Σ_i (y_i - f(x_i; θ))^2. Il définit une fonction de perte donnant des estimateurs analytiques dans les modèles linéaires et coïncide avec l’estimateur du maximum de vraisemblance sous bruit additif gaussien i.i.d.