Pour deux (ou plusieurs) sources discrètes sans mémoire corrélées observées séparément et encodées indépendamment sans communication entre encodeurs, le théorème Slepian–Wolf caractérise la région des tuples de débits de compression sans perte réalisables lorsque le décodage est conjoint. Pour deux sources X et Y, la région réalisable asymptotiquement est R_X ≥ H(X|Y), R_Y ≥ H(Y|X), et R_X+R_Y ≥ H(X,Y), montrant que le débit total peut atteindre l'entropie conjointe bien que les encodeurs opèrent indépendamment.

Principe

La dépendance statistique entre sources encodées séparément peut être exploitée au décodage conjoint de sorte que la somme des débits indépendants n'a pas à égaler la somme des entropies individuelles ; l'encodage séparé avec décodage conjoint peut asymptotiquement atteindre le débit somme égal à l'entropie conjointe.

Démonstration

Scénario illustratif : deux capteurs mesurent des séquences binaires corrélées X^n et Y^n. Chaque capteur encode sa séquence à un débit juste au‑dessus de H(X|Y) et H(Y|X) respectivement et envoie les indices à un décodeur central. Le décodeur conjoint exploite la corrélation pour reconstituer les deux séquences avec erreur tendant vers zéro quand n→∞, bien que les encodeurs n'aient pas partagé leurs données ni coordonné leurs mots de code.

Mauvaise application

Supposer que Slepian–Wolf s'applique sans réserve à des réglages one‑shot, à des sources avec mémoire, à des alphabets continus ou à la compression avec perte : le théorème est asymptotique et concerne la compression sans perte de sources discrètes sans mémoire avec décodage conjoint. Il est aussi erroné de croire qu'aucune coordination n'est jamais nécessaire en pratique : les schémas pratiques requièrent souvent des livres de codes partagés ou de l'aléa commun pour approcher les bornes.

Conséquence

Slepian–Wolf établit que des sources distribuées peuvent être compressées presque aussi efficacement que des sources centralisées lorsque le décodage est conjoint, motivant la compression distribuée, les stratégies de compression réseau et les codes pratiques qui approchent les bornes.

Inversion

Si les encodeurs peuvent coopérer, le débit somme peut être réduit davantage par coopération ; si seul un décodage séparé est permis, les débits doivent atteindre les entropies individuelles. Pour la compression distribuée avec perte, d'autres bornes s'appliquent (p. ex. Wyner–Ziv) et pour des sources non i.i.d. ou des blocs finis la région asymptotique change.

Limite

Dans le champ : sources discrètes sans mémoire (i.i.d.), exigence de récupération sans perte, longues longueurs de bloc, et décodage conjoint disposant des deux indices encodés. Cas limite : sources ergodiques mais dépendantes où l'expression mono‑lettre nécessite prudence. Hors du champ : codage sans perte one‑shot sans décodage conjoint, compression distribuée avec perte, alphabets continus sans quantification.

Tension sémantique

Indépendance des encodeurs versus coopération du décodeur : Slepian–Wolf montre que des encodeurs indépendants peuvent conserver l'efficacité centralisée seulement si le décodeur peut traiter conjointement les indices — les systèmes pratiques pèsent le coût de coordination des livres de codes contre l'avantage d'un débit réduit.

Synthèse

Slepian–Wolf démontre que la corrélation est une ressource du côté décodage : les encodeurs séparés n'ont pas à renoncer à l'efficacité asymptotique si le décodeur exploite conjointement les dépendances, mais réaliser cette efficacité en pratique exige des mécanismes (livres de codes partagés, coordination) pour approcher la construction théorique.