Definition
Eine Klasse von Wahrscheinlichkeitsverteilungen, deren Dichten (gegenüber einem dominierenden Maß) in kanonischer Form geschrieben werden können: p(x|η)=h(x) exp(η·T(x)−A(η)), wobei η der natürliche Parameter, T(x) die suffiziente Statistik und A die Log‑Partition ist.
Prinzip
Prinzip
Gekennzeichnet durch endlich-dimensionale suffiziente Statistiken und eine konvexe Log‑Partition; geschlossen unter Stichprobenbildung (Summen suffizienter Statistiken) und besitzt bei kanonischer Form konjugierte Priors in der Bayesschen Analyse.
Demonstration
Demonstration
Beispiele: Bernoulli in kanonischer Form p(x|η)=exp(η x − A(η)) mit T(x)=x; Gauß mit bekannter Varianz, Poisson, Multinomial; Stichprobensummen liefern minimale suffiziente Statistiken deren Dimension mit n nicht wächst.
Fehlanwendung
Fehlanwendung
Eine Verteilung in exponentielle Form zwängen, obwohl kein dominierendes Maß oder keine Struktur suffizienter Statistik vorliegt, oder annehmen, alle parametrischen Modelle seien exponentielle Familien; kanonischen Parameter mit beliebiger Umparametrisierung verwechseln.
Konsequenz
Konsequenz
Führt zu niedrigdimensionalen suffizienten Statistiken, Konvexitätseigenschaften für MLE (Konkavität der Log‑Likelihood in η), berechenbaren Momenten via Ableitungen von A und bequemer Bayesscher Konjugation.
Umkehrung
Umkehrung
Nicht‑exponentielle Familien (z.B. Cauchy, viele schwerschwänzige Modelle oder Mischungen von Exponentiellen) haben keine fest‑dimensionalen suffizienten Statistiken und besitzen nicht dieselben Konvexitäts‑ oder Konjugationseigenschaften.
Abgrenzung
Abgrenzung
Erfordert ein dominierendes Maß und eine exponentielle Darstellung; bei Parameterbeschränkungen oder nichtlinearen Parametrisierung entstehen gekrümmte exponentielle Familien oder Modelle außerhalb dieser Klasse; Mischmodelle liegen meist außerhalb.
Semantische Spannung
Semantische Spannung
Spannung zu Mischmodellen: Mischungen von Mitgliedern einer exponentiellen Familie sind typischerweise keine exponentielle Familie mehr und verlieren die endlich‑dimensionale Suffizienz, was reichere, aber weniger handhabbare Strukturen erzeugt.
Synthese
Synthese
Eine exponentielle Familie ist eine parametrisierte Verteilungsklasse, die sich als Exponentialdarstellung von Parameter mal suffizienter Statistik minus Log‑Partition schreiben lässt und so endliche Suffizienz, konvexe Inferenz und Konjugationsstruktur liefert.