## [Rate-Distortion-Theorem](/de/node/71813) Definition Für eine stochastische Quelle X und eine nichtnegative Verzerrungsmaß d(x,\hat{x}) mit erlaubter mittlerer Verzerrung D bestimmt der Rate‑Distortion‑Satz die minimal benötigte asymptotische durchschnittliche Bitzahl pro Quellsymbol, damit die erwartete Verzerrung ≤D ist. Die Rate‑Distortion‑Funktion lautet R(D)=inf_{p(\hat{x}|x): E[d(X,\hat{X})]≤D} I(X;\hat{X}), und jeder Rate R>R(D) ist asymptotisch mit Blockcodes erreichbar, während R ## Prinzip Prinzip Die operationelle Grenze für verlustbehaftete Kompression entspricht der minimalen gegenseitigen Information zwischen Quelle und Rekonstruktion unter der Verzerrungsbeschränkung; Kompression kann die mittlere Verzerrung D nicht unterhalb dieser Informationsuntergrenze erreichen. ## Demonstration Demonstration Illustratives Beispiel: Eine gedächtnislose diskrete Quelle X mit Hamming‑Verzerrung wird in Blöcken der Länge n codiert. Wählt man eine optimale bedingte Verteilung p(\hat{x}|x), dann existieren für jedes R>R(D) für große n Codierer/Dekodierer, die X^n auf ≈2^{nR} Indizes abbilden und Rekonstruktionen \hat{X}^n mit mittlerer Verzerrung ≤D liefern; versucht man R ## Fehlanwendung Fehlanwendung R(D) als exakten Rate‑Wert bei endlicher Blocklänge oder als Bauanleitung für einen einfachen Encoder zu interpretieren: R(D) ist asymptotisch und sagt nichts über Praktikabilität, Komplexität oder Latenz endlicher Codes. Ebenfalls falsch ist die Verwechslung mit Kanalkapazität. ## Konsequenz Konsequenz R(D) liefert die fundamentale Trade‑off‑Kurve zur Beurteilung und Gestaltung verlustbehafteter Kompression: sie setzt eine nicht‑verbesserbare Untergrenze für erreichbare Raten bei gegebener mittlerer Verzerrung unter den Modellannahmen. ## Umkehrung Umkehrung Bei Änderung der Kernannahmen ändert sich die Gestalt: mit Seiteninformation am Encoder/Dekoder (Wyner–Ziv), nichtstationären Quellen, One‑Shot‑Settings oder Rechen‑/Latenzbegrenzungen charakterisiert das asymptotische R(D) die praktische Leistung nicht mehr, und andere Schranken gelten. ## Abgrenzung Abgrenzung Klare Gültigkeit: stationäre, gedächtnislose (i.i.d.) oder ergodische Quellen, mittlerer Verzerrungsmaßstab, asymptotisch große Blocklängen. Randfall: Quellen mit langer Erinnerung, bei denen die Ein‑Buchstaben‑Darstellung ohne Ergodizität versagt. Außeralter: One‑Shot‑Garantien, exakte endliche‑n Minimalkosten, verlustbehaftete Kompression mit zusätzlichen strukturbedingten Zwängen. ## Semantische Spannung Semantische Spannung Trade‑off zwischen informationstheoretischer Optimalität und Implementierbarkeit: Minimierung der gegenseitigen Information kann große Latenz oder Komplexität erfordern. ## Synthese Synthese R(D) übersetzt eine Verzerrungsanforderung in eine informationstheoretische Untergrenze; praktisch ist sie das asymptotische Ziel, während reale Systeme zusätzliche Beschränkungen berücksichtigen müssen.