Definición
Clase de distribuciones de probabilidad cuyas densidades (respecto a una medida dominante) pueden escribirse en forma canónica p(x|η)=h(x) exp(η·T(x) − A(η)), donde η es el parámetro natural, T(x) la estadística suficiente y A la función de log‑partición.
Principio
Principio
Caracterizada por estadísticas suficientes de dimensión finita y una log‑partición convexa; cerrada bajo muestreo (sumas de estadísticas suficientes) y admite priors conjugados en análisis bayesiano cuando la forma es canónica.
Demostración
Demostración
Ejemplos: Bernoulli en forma canónica p(x|η)=exp(η x − A(η)) con T(x)=x; gaussiana con varianza conocida, Poisson, multinomial; las sumas muestrales producen estadísticas suficientes mínimas cuya dimensión no crece con el tamaño de la muestra.
Aplicación incorrecta
Aplicación incorrecta
Forzar una distribución a forma exponencial cuando no existe medida dominante o estructura de estadística suficiente, o asumir que todos los modelos paramétricos son familias exponenciales; confundir parámetro canónico con reparametrizaciones arbitrarias.
Consecuencia
Consecuencia
Conduce a estadísticas suficientes de baja dimensión, propiedades de convexidad para la estimación por máxima verosimilitud (concavidad de la log‑verosimilitud en η), cálculo de momentos vía derivadas de A y conjugación bayesiana conveniente.
Inversión
Inversión
Familias no exponenciales (por ejemplo Cauchy, muchos modelos de colas pesadas o mezclas de exponentiales) carecen de estadísticas suficientes de dimensión fija y no disfrutan las mismas propiedades de convexidad o conjugación.
Límite
Límite
Requiere una medida dominante y representación exponencial; cuando existen restricciones de parámetros o parametrizaciones no lineales se obtienen familias exponenciales curvas o modelos fuera de esta clase; las mezclas suelen quedar excluidas.
Tensión semántica
Tensión semántica
Tensión con modelos de mezcla: las mezclas de miembros de una familia exponencial normalmente no forman una familia exponencial y pierden la suficiencia de dimensión finita, produciendo estructuras estadísticas más ricas pero menos tratables.
Síntesis
Síntesis
Una familia exponencial es un conjunto paramétrico de distribuciones expresable como la exponencial del producto parámetro‑estadística suficiente menos la log‑partición, lo que da suficiencia finita, inferencia convexa y estructura de conjugación.