Eine riemannsche Metrik auf der Parameter-Mannigfaltigkeit eines parametrischen statistischen Modells, gegeben durch das erwartete äußere Produkt der Score-Funktion; sie quantifiziert die lokale Unterscheidbarkeit von Wahrscheinlichkeitsverteilungen durch Parameter.

Prinzip

Zweitordnungsapproximation der relativen Entropie: Lokal wird die Kullback–Leibler-Divergenz zwischen nahe beieinander liegenden Parametern durch die Hälfte des quadrierten Abstands unter der Fisher-Metrik approximiert, wodurch Geometrie mit inferentieller Sensitivität und der Cramér–Rao-Schranke verknüpft wird.

Demonstration

Für die Gauß-Familie N(μ,σ^2) mit bekanntem σ ist die Fisher-Metrik auf dem μ-Parameter I(μ)=1/σ^2, sodass kleine Änderungen in μ mit inverser Varianz skaliert werden und untere Schranken für die Varianz eines Schätzers setzen.

Fehlanwendung

Die beobachtete (stichprobenbasierte) Informationsmatrix als Fisher-Metrik zu verwenden, ohne Regularitätsbedingungen oder Verzerrungen bei kleinen Stichproben zu prüfen, oder die Fisher-Metrik auf singuläre oder nicht identifizierbare Modelle anzuwenden, wo sie degeneriert.

Konsequenz

Bietet ein intrinsisches, koordinateninvariantes Maß für Parametersensitivität, bildet die Grundlage für Natural-Gradient-Methoden in der Optimierung und liefert asymptotische Varianzgrenzen für Schätzer via inverse Fisher.

Umkehrung

Euklidische Parametermetriken behandeln Parameter als gewöhnliche Koordinaten mit ad-hoc-Abständen; die Fisher-Metrik verleiht dem Parameterraum eine problemspezifische Geometrie, abgeleitet aus dem statistischen Modell und der Likelihood.

Abgrenzung

Erfordert eine reguläre parametrische Familie mit differenzierbarer Log-Likelihood und dominierten Maßen, so dass Erwartungen existieren; sie ist nicht unmittelbar auf nichtparametrische oder irrreguläre Modelle ohne Modifikation anwendbar.

Semantische Spannung

Fisher-Metrik versus Hesse-Matrix der negativen Log-Likelihood an einem Punkt: die erwartete Fisher entspricht unter Regularität der Erwartung der Hesse-Matrix, aber die beobachtete Hesse kann abweichen und stichprobenabhängig sein.

Synthese

Die Fisher-Informationsmetrik ist die modellinduzierte riemannsche Metrik auf dem Parameterraum, gegeben durch erwartete Score-Korrelationen; sie quantifiziert lokale statistische Unterscheidbarkeit, setzt Schätzgrenzen und liefert Geometrie für Inferenz und Optimierung.