Definition
Für Zufallsvariablen, die eine Markov‑Kette X → Y → Z bilden (d. h. X und Z sind gegeben Y bedingt unabhängig), besagt die Datenverarbeitungsungleichung I(X;Z) ≤ I(X;Y), wobei I die gegenseitige Information ist. Anders gesagt: jede (stochastische) Verarbeitung von Y kann die gegenseitige Information über X nicht vergrößern.

Prinzip

Prinzip
Information über X kann durch lokale Verarbeitung der Zwischenvariable Y nicht vermehrt werden; Verarbeitung kann die Information höchstens bewahren oder verringern, sofern sie nicht alle x‑relevanten Anteile von Y erhält.

Demonstration

Demonstration
Illustratives Szenario: X ist ein binäres Label, Y eine verrauschte Beobachtung von X durch einen Kanal, und Z eine weitere verrauschte Transformation von Y. Weil Z nur über Y von X abhängt, kann I(X;Z) I(X;Y) nicht übersteigen; zusätzlicher Rauscheintrag kann die gegenseitige Information nur reduzieren oder bestenfalls unverändert lassen.

Fehlanwendung

Fehlanwendung
Eine Reduktion der gegenseitigen Information als zwangsläufige Verschlechterung jeder Leistungskennzahl zu deuten: I(·;·) ist eine auf Mittelwerten beruhende, modellunabhängige Größe; eine Verarbeitung kann I(X;·) reduzieren und trotzdem eine spezifische nachgelagerte Aufgabe (z. B. Klassifizierungsgenauigkeit für eine Klasse) erhalten oder verbessern.

Konsequenz

Konsequenz
Die DPI liefert rigorose Schranken in Konversen für Inferenz, Kompression und Kanalcodierung und stützt Datenschutzargumente: ohne externe Zusatzinformation kann Post‑Processing die verfügbare Information über eine verborgene Variable nicht erhöhen.

Umkehrung

Umkehrung
Die Ungleichung setzt die Markov‑Struktur X→Y→Z und klassische gegenseitige Information voraus; das Hinzunehmen externer Seiteninformation, Feedback, gemeinsamer Zufallsgrößen oder eine veränderte Abhängigkeitsstruktur macht die einfache Form ungültig. In quantenmechanischen Kontexten existiert eine analoge Quanten‑DPI mit anderen mathematischen Bedingungen.

Abgrenzung

Abgrenzung
Geltungsbereich: klassische Zufallsvariablen mit Markov‑Kette X→Y→Z und gegenseitiger Information I(·;·). Randfall: Wenn Z eine deterministische suffiziente Statistik von Y für X ist, kann Gleichheit eintreten. Außerhalb: Fälle, in denen Z über zusätzliche Seiteninformation verfügt oder die Abhängigkeiten nicht‑Markov sind.

Semantische Spannung

Semantische Spannung
Privatsphäre versus Nutzbarkeit: Verarbeitung zur Informationsreduktion (Verringerung von I(X;·)) kann Privatsphäre schützen, aber auch nützliche Signale entfernen; umgekehrt kann Verarbeitung zur Verbesserung einer Aufgabe die allgemeine gegenseitige Information reduzieren und dennoch die Nutzungsmetrik verbessern.

Synthese

Synthese
DPI formalisiert die Irreversibilität von Informationsverlust bei lokaler Verarbeitung: ohne neue externe Information kann Verarbeitung keine zusätzliche Information über eine vorgelagerte Variable schaffen; folglich müssen relevante Anteile von Y bewahrt oder Seiteninformation eingeführt werden, um mehr über X zu erfahren.