Ein Maß dafür, wie empfindlich die Likelihood eines Wahrscheinlichkeitsmodells gegenüber Änderungen eines Parameters reagiert; formal ist in einem parametrischen Modell die Fisher‑Information der Erwartungswert des Quadrats der Score‑Funktion (Ableitung des Log‑Likelihood). Sie quantifiziert die lokale Informationsmenge, die eine beobachtbare Zufallsvariable über einen unbekannten Parameter enthält, und bildet die Grundlage für untere Schranken der Schätzervarianz.

Prinzip

Höhere Fisher‑Information an einem Parameterwert bedeutet stärkere Krümmung des Log‑Likelihood und folglich (unter Regularität und Unverzerrtheits‑ oder lokalen asymptotischen Annahmen) eine niedrigere untere Schranke der Schätzervarianz durch die Cramér–Rao‑Relation; bei unabhängigen Stichproben addiert sich die Fisher‑Information.

Demonstration

Illustratives Szenario → Beobachtungen X1,…,Xn i.i.d. aus p(x|θ). Erkennen → Berechne die Stichproben‑Fisher‑Information n·I(θ). Handlung → Anwenden von Cramér–Rao: Varianz eines beliebigen unverzerrten Schätzers ≥ 1/(n·I(θ)). Folge → Erhöhen der Stichprobengröße oder Wahl von Versuchsbedingungen, die I(θ) erhöhen, senkt diese untere Schranke.

Fehlanwendung

Zu glauben, Fisher‑Information entspreche unmittelbar der erreichbaren Präzision, ohne Modellregularität zu prüfen oder Verzerrung und endliche Stichprobeneffekte zu berücksichtigen — der Fehler ist, die Schranke in kleinen Stichproben, bei Modellfehlanpassung oder verzerrten Schätzern als erreichbar anzusehen.

Konsequenz

Dient als Entwurfs‑ und asymptotisches Analysetool: informiert Versuchsplanung (Maximierung der Fisher‑Information), Parametrierungswahl und Varianzskalierungsprognosen im Großprobenbereich; formalisiert auch die additive Eigenschaft bei unabhängigen Beobachtungen.

Umkehrung

Ist nicht anwendbar, wenn Regularitätsbedingungen verletzt sind (z. B. nicht differenzierbare Likelihood, parameterabhängiger Träger), bei stark verzerrten Schätzern oder in nichtparametrischen Situationen, in denen eine endliche Fisher‑Information die Identifizierbarkeit nicht zusammenfasst; dann sind andere Informationsmaße oder direkte Risikoabschätzungen nötig.

Abgrenzung

Innerhalb: parametrische, differenzierbare Likelihoods mit wohldefinierter Score‑Momentstruktur und Standardregularität. Randfall: diskrete Modelle mit parameterabhängigem Träger, bei denen Score‑Erwartungen ill definiert sind. Außerhalb: nichtparametrische Modelle ohne endliche Parameterbeschreibung oder stark fehlangepasste Modelle.

Semantische Spannung

Spannung zwischen Fisher‑Information (lokal, differential, modellabhängig) und globalen/bayesianischen Informationsmaßen wie Mutual Information oder Posterior‑Varianz — erstere ist lokal/asymptotisch, letztere fassen globale oder prior‑abhängige Unsicherheit.

Synthese

Die Fisher‑Information formt formal, wie Modellempfindlichkeit gegenüber Parameteränderungen die Präzision begrenzt: sie ist lokal, additiv und praktisch für Versuchsplanung und asymptotische Varianzgrenzen, muss aber unter Beachtung der Regularität angewendet werden.