Eine Ungleichung, die für jede konvexe Funktion φ und jede Zufallsvariable X (oder jede Wahrscheinlichkeitsmaß) besagt: φ(E[X]) ≤ E[φ(X)], vorausgesetzt die Erwartungswerte existieren. Für konkave φ kehrt sich die Ungleichung um. Sie formalisiert, wie nichtlineare konvexe Abbildungen mit Mittelwertbildung interagieren.

Prinzip

Konvexität erzwingt, dass die Funktion des Mittels unterhalb (oder gleich) dem Mittel der Funktion liegt; anders ausgedrückt kommutiert Mittelbildung nicht mit konvexer Nichtlinearität und die Erwartung einer konvexen Transformation ist gegenüber der Transformation am Mittel 'größer gestreut'.

Demonstration

Illustratives Beispiel: Für eine skalare Zufallsvariable X mit endlichem zweiten Moment und φ(x)=x^2 (konvex) gibt Jensen (E[X])^2 = φ(E[X]) ≤ E[φ(X)] = E[X^2], woraus die einfache Varianzuntergrenze Var(X) = E[X^2] − (E[X])^2 ≥ 0 folgt. Für φ=log (konkav) kehrt sich die Ungleichung um: log E[X] ≥ E[log X].

Fehlanwendung

Jensen auf eine nichtkonvexe Funktion anzuwenden oder Integrabilitätsbedingungen zu vernachlässigen (Erwartungswerte nicht endlich) oder die Richtung der Ungleichung für konkave vs. konvexe φ zu verwechseln sind häufige Fehler; ein weiterer Irrtum ist anzunehmen, Gleichheit gelte außer in trivialen Fällen, ohne zu prüfen, ob φ affin auf dem Träger ist oder X fast sicher konstant ist.

Konsequenz

Bietet ein systematisches Werkzeug zur Herleitung von Schranken und Approximationen für Erwartungswerte, Momente und informationstheoretische Größen (z. B. Konvexität der Exponentialfunktion oder Konkavität des Logarithmus) und bildet die Grundlage vieler Ungleichungen sowie Risikoschranken in Schätzung und Lernen.

Umkehrung

Ist φ konkav, kehrt sich die Ungleichungsrichtung um; existieren die Erwartungen nicht (unendliche Momente) oder ist das Maß keine Wahrscheinlichkeitsmaß, muss die Aussage angepasst werden (z. B. unter Verwendung erweiterter reeller Werte oder bedingter Formen).

Abgrenzung

Voraussetzung ist, dass φ auf dem relevanten Bereich konvex (bzw. konkav für die umgekehrte Form) ist und dass E[|φ(X)|], E[|X|] gegebenenfalls endlich sind; die Ungleichung gilt nicht direkt, wenn diese Integrabilitätsbedingungen versagen oder X nicht auf einem Wahrscheinlichkeitsraum definiert ist.

Semantische Spannung

Mittelbildung (Erwartung) ↔ Nichtlinearität (konvexe/konkave Transformationen): Jensen quantifiziert die Diskrepanz durch Nichtlinearität und zwingt zu Kompromissen bei Approximationen, die Erwartungen von Transformationen durch Transformationen von Erwartungen ersetzen.

Synthese

Jensens Ungleichung kodifiziert die intuitive Tatsache, dass »der Mittelwert einer konvexen Transformation mindestens so groß ist wie die Transformation des Mittelwerts«; sie ist die grundlegende Relation, die erklärt, wie Nichtlinearität und Unsicherheit in probabilistischer und statistischer Analyse zusammenwirken.