Für eine stochastische Quelle X und eine nichtnegative Verzerrungsmaß d(x,\hat{x}) mit erlaubter mittlerer Verzerrung D bestimmt der Rate‑Distortion‑Satz die minimal benötigte asymptotische durchschnittliche Bitzahl pro Quellsymbol, damit die erwartete Verzerrung ≤D ist. Die Rate‑Distortion‑Funktion lautet R(D)=inf_{p(\hat{x}|x): E[d(X,\hat{X})]≤D} I(X;\hat{X}), und jeder Rate R>R(D) ist asymptotisch mit Blockcodes erreichbar, während R

Prinzip

Die operationelle Grenze für verlustbehaftete Kompression entspricht der minimalen gegenseitigen Information zwischen Quelle und Rekonstruktion unter der Verzerrungsbeschränkung; Kompression kann die mittlere Verzerrung D nicht unterhalb dieser Informationsuntergrenze erreichen.

Demonstration

Illustratives Beispiel: Eine gedächtnislose diskrete Quelle X mit Hamming‑Verzerrung wird in Blöcken der Länge n codiert. Wählt man eine optimale bedingte Verteilung p(\hat{x}|x), dann existieren für jedes R>R(D) für große n Codierer/Dekodierer, die X^n auf ≈2^{nR} Indizes abbilden und Rekonstruktionen \hat{X}^n mit mittlerer Verzerrung ≤D liefern; versucht man R

Fehlanwendung

R(D) als exakten Rate‑Wert bei endlicher Blocklänge oder als Bauanleitung für einen einfachen Encoder zu interpretieren: R(D) ist asymptotisch und sagt nichts über Praktikabilität, Komplexität oder Latenz endlicher Codes. Ebenfalls falsch ist die Verwechslung mit Kanalkapazität.

Konsequenz

R(D) liefert die fundamentale Trade‑off‑Kurve zur Beurteilung und Gestaltung verlustbehafteter Kompression: sie setzt eine nicht‑verbesserbare Untergrenze für erreichbare Raten bei gegebener mittlerer Verzerrung unter den Modellannahmen.

Umkehrung

Bei Änderung der Kernannahmen ändert sich die Gestalt: mit Seiteninformation am Encoder/Dekoder (Wyner–Ziv), nichtstationären Quellen, One‑Shot‑Settings oder Rechen‑/Latenzbegrenzungen charakterisiert das asymptotische R(D) die praktische Leistung nicht mehr, und andere Schranken gelten.

Abgrenzung

Klare Gültigkeit: stationäre, gedächtnislose (i.i.d.) oder ergodische Quellen, mittlerer Verzerrungsmaßstab, asymptotisch große Blocklängen. Randfall: Quellen mit langer Erinnerung, bei denen die Ein‑Buchstaben‑Darstellung ohne Ergodizität versagt. Außeralter: One‑Shot‑Garantien, exakte endliche‑n Minimalkosten, verlustbehaftete Kompression mit zusätzlichen strukturbedingten Zwängen.

Semantische Spannung

Trade‑off zwischen informationstheoretischer Optimalität und Implementierbarkeit: Minimierung der gegenseitigen Information kann große Latenz oder Komplexität erfordern.

Synthese

R(D) übersetzt eine Verzerrungsanforderung in eine informationstheoretische Untergrenze; praktisch ist sie das asymptotische Ziel, während reale Systeme zusätzliche Beschränkungen berücksichtigen müssen.