Para dos (o más) fuentes discretas sin memoria correlacionadas observadas por separado y codificadas independientemente sin comunicación entre codificadores, el Teorema Slepian–Wolf caracteriza la región alcanzable de tuplas de tasas de compresión sin pérdida cuando se permite decodificación conjunta. Para dos fuentes X y Y la región asintótica alcanzable es R_X ≥ H(X|Y), R_Y ≥ H(Y|X) y R_X+R_Y ≥ H(X,Y), mostrando que la tasa suma puede aproximarse a la entropía conjunta aunque los codificadores operen independientemente.

Principio

La dependencia estadística entre fuentes codificadas por separado puede explotarse en el decodificador conjunto de modo que la suma de las tasas independientes no tenga que ser igual a la suma de las entropías individuales; la codificación separada con decodificación conjunta puede alcanzar asintóticamente la tasa suma de la entropía conjunta.

Demostración

Escenario ilustrativo: dos sensores miden secuencias binarias correlacionadas X^n y Y^n. Cada sensor codifica su secuencia a una tasa justo por encima de H(X|Y) y H(Y|X) respectivamente y envía índices a un decodificador central. El decodificador conjunto utiliza la correlación para recuperar ambas secuencias con error que tiende a cero cuando n→∞, aunque los codificadores no compartieron datos ni coordinaron secuencias de código.

Aplicación incorrecta

Suponer que Slepian–Wolf se aplica sin matices a entornos one‑shot, fuentes con memoria, alfabetos continuos o compresión con pérdida: el teorema es asintótico y específico para codificación sin pérdida de fuentes discretas sin memoria con decodificación conjunta. También es erróneo creer que en la práctica no se requiere coordinación—los esquemas prácticos a menudo requieren libros de códigos compartidos o aleatoriedad común para acercarse a las cotas.

Consecuencia

Slepian–Wolf establece que las fuentes distribuidas pueden comprimirse casi tan eficientemente como las centralizadas cuando hay decodificación conjunta, lo que motiva la codificación de fuentes distribuida, estrategias de compresión en redes y códigos prácticos que alcanzan las cotas.

Inversión

Si los codificadores pueden cooperar, la tasa suma puede reducirse aún más mediante cooperación; si sólo se permite decodificación separada, las tasas deben alcanzar las entropías individuales. Para compresión distribuida con pérdida se aplican otras cotas (p. ej. Wyner–Ziv) y para fuentes no i.i.d. o bloques finitos la región asintótica cambia.

Límite

Dentro: fuentes discretas sin memoria (i.i.d.), requisito de recuperación sin pérdida, longitudes de bloque asintóticas y decodificador conjunto con acceso a ambos índices. Caso límite: fuentes ergódicas pero dependientes donde la expresión mono‑letra requiere cuidado. Fuera: codificación sin pérdida one‑shot sin decodificación conjunta, compresión distribuida con pérdida y alfabetos continuos sin cuantización.

Tensión semántica

Independencia de los codificadores versus cooperación del decodificador: Slepian–Wolf muestra que la independencia puede mantener la eficiencia centralizada sólo si el decodificador procesa conjuntamente los índices—los sistemas prácticos balancean el coste de coordinar libros de códigos frente al beneficio de una tasa menor.

Síntesis

Slepian–Wolf demuestra que la correlación es un recurso en el decodificador: los codificadores separados no tienen por qué renunciar a la eficiencia asintótica si el decodificador explota conjuntamente las dependencias, pero lograr esa eficiencia en la práctica requiere mecanismos (libros de códigos compartidos, coordinación) para aproximar la construcción teórica.