Divergencia de Kullback–Leibler

Una medida dirigida de discrepancia entre dos distribuciones de probabilidad definida como la esperanza, bajo una distribución, del logaritmo del cociente de sus densidades; cuantifica la pérdida logarítmica esperada al aproximar una por otra.