Entropierate

Der langfristige durchschnittliche Shannon‑Informationsgehalt pro Symbol einer stochastischen Folge, üblicherweise definiert als der Grenzwert H = lim_{n→∞} (1/n) H(X1,...,Xn) bzw. H = lim_{n→∞} H(Xn | X1,...,Xn−1), wenn der Grenzwert existiert.

Asymptotisch durchschnittliche Shannon‑Information pro erzeugtem Symbol einer stochastischen Sprachquelle: formal die Grenze der bedingten Entropie pro Symbol H(X_n | X_{n-1}, X_{n-2}, ...) für einen stationären stochastischen Prozess oder allgemeiner die erwartete Information pro Symbol unter dem spezifizierten Quellmodell und Stichprobenregime. Es quantifiziert die Vorhersagbarkeit bzw.