Définition
Pour des variables aléatoires formant une chaîne de Markov X → Y → Z (c'est‑à‑dire X et Z sont indépendantes conditionnellement à Y), l'Inégalité de Traitement des Données affirme I(X;Z) ≤ I(X;Y), où I désigne l'information mutuelle. Autrement dit : tout traitement (stochastique) de Y ne peut pas accroître l'information mutuelle que le résultat traité Z détient sur X.
Principe
Principe
L'information sur X ne peut pas être augmentée par un traitement local de l'observation intermédiaire Y ; le traitement peut au mieux préserver l'information et en général la réduire, sauf s'il conserve toute l'information sur X contenue dans Y.
Démonstration
Démonstration
Scénario illustratif : X est une étiquette binaire, Y est une observation bruitée de X via un canal, et Z est une transformation bruitée de Y. Comme Z dépend de X uniquement via Y, l'information mutuelle I(X;Z) ne peut pas dépasser I(X;Y) ; un bruit additionnel en seconde étape peut seulement diminuer (ou au mieux laisser inchangée) l'information mutuelle.
Mauvaise application
Mauvaise application
Interpréter une diminution de l'information mutuelle comme une perte stricte de performance pour toute tâche : I(·;·) est une mesure moyenne indépendante de la tâche ; un traitement peut réduire I(X;·) tout en préservant ou améliorant une métrique de tâche spécifique (p. ex. précision pour une classe particulière) en extrayant des caractéristiques pertinentes pour cette tâche.
Conséquence
Conséquence
La DPI fournit des limites rigoureuses utilisées dans des bornes impossibilité pour l'inférence, la compression et le codage de canal, et sous‑tend des arguments de confidentialité : sans information auxiliaire externe, le post‑traitement ne peut augmenter l'information disponible sur une variable cachée.
Inversion
Inversion
L'inégalité suppose la structure de Markov X→Y→Z et l'information mutuelle classique ; l'introduction d'information auxiliaire, de rétroaction, d'aléa partagé ou la modification de la structure de dépendance invalide la forme simple. En contexte quantique, existe une DPI quantique analogue mais basée sur objets mathématiques différents et conditions particulières.
Limite
Limite
Dans le champ : variables classiques en chaîne de Markov X→Y→Z et information mutuelle I(·;·). Cas limite : si Z est une statistique suffisante déterministe de Y pour X, l'égalité peut tenir. Hors du champ : scénarios où Z dispose d'information auxiliaire ou de dépendances non‑Markoviennes entre X, Y et Z.
Tension sémantique
Tension sémantique
Confidentialité versus utilité : traiter pour réduire l'information (diminuer I(X;·)) peut protéger la vie privée mais aussi supprimer un signal utile ; inversement, améliorer une tâche par traitement peut réduire l'information mutuelle générale tout en améliorant la métrique d'utilité.
Synthèse
Synthèse
La DPI formalise l'irréversibilité de la perte d'information sous traitement local : en l'absence d'information externe, le traitement ne crée pas d'information sur une variable en amont, donc il faut préserver les composantes pertinentes de Y ou introduire de l'information auxiliaire pour accroître la connaissance sur X.