Principio de Mínimos Cuadrados

El Principio de Mínimos Cuadrados determina parámetros del modelo minimizando la suma de los cuadrados de los residuos entre valores observados y predicciones del modelo: arg min_θ Σ_i (y_i - f(x_i; θ))^2. Define una función de pérdida que da estimadores en forma cerrada en modelos lineales y coincide con el estimador de máxima verosimilitud bajo ruido aditivo gaussiano i.i.d.