Definición
Una cantidad no negativa asociada a un modelo estadístico paramétrico, definida como la esperanza del cuadrado de la función score (derivada del log-verosimilitud) o, de forma equivalente, el negativo de la esperanza de la segunda derivada del log-verosimilitud; mide la sensibilidad local de la verosimilitud ante cambios de parámetro.
Principio
Principio
Cuantificar cuánto revela una variable observable sobre un parámetro midiendo la curvatura del log-verosimilitud: mayor información de Fisher implica mayor precisión alcanzable para estimadores insesgados.
Demostración
Demostración
Para muestras independientes X1,...,Xn ~ N(μ,σ^2) con σ^2 conocido, la información de Fisher sobre μ es n/σ^2, reflejando que la varianza de la media muestral decrece proporcionalmente a 1/n.
Aplicación incorrecta
Aplicación incorrecta
Interpretar la información de Fisher como igual a la varianza de un estimador sin tener en cuenta la mala especificación del modelo, el sesgo o la falla de las condiciones de regularidad necesarias para aplicar la cota de Cramér–Rao.
Consecuencia
Consecuencia
Conduce a la cota inferior de Cramér–Rao que limita la varianza de estimadores insesgados y aparece en la normalidad asintótica de los estimadores de máxima verosimilitud, donde la inversa de la información da la covarianza asintótica.
Inversión
Inversión
Información de Fisher cero para una componente de parámetro indica que los datos no aportan información local sobre ese parámetro (verosimilitud plana en esa dirección); invertir la noción conduce a la no identificabilidad del parámetro en lugar de alta precisión.
Límite
Límite
Definida cuando la verosimilitud es diferenciable y el cuadrado del score es integrable bajo el modelo; no es aplicable para modelos con medidas singulares, verosimilitudes no diferenciables o parámetros en la frontera donde falla la regularidad.
Tensión semántica
Tensión semántica
A menudo se contrasta con la información de Shannon: la información de Fisher mide la sensibilidad local a parámetros en un modelo estadístico, mientras que la información de Shannon mide la reducción de incertidumbre en los resultados de una variable aleatoria.
Síntesis
Síntesis
La información de Fisher es la curvatura esperada del log-verosimilitud respecto a los parámetros, cuantificando cuán fuertemente los datos restringen perturbaciones paramétricas locales y determinando la precisión asintótica de los estimadores.