Matrice symétrique semi-définie positive dont l'élément (i,j) est l'espérance du produit des composantes du score ou l'espérance négative de la dérivée seconde du logarithme de la vraisemblance par rapport aux paramètres ; elle mesure la sensibilité des paramètres d'un modèle paramétrique.

Principe

Organise l'identifiabilité locale et la sensibilité des paramètres : l'information s'additionne pour des observations indépendantes et fixe les bornes inférieures sur la variance des estimateurs.

Démonstration

Pour n observations indépendantes de N(μ,σ^2) avec σ connu, l'information de Fisher pour μ vaut n/σ^2 ; pour un paramètre vectoriel, les éléments de la matrice se déduisent de la même manière à partir des espérances des produits de score.

Mauvaise application

Considérer l'information de Fisher comme fiable en petits échantillons sans vérifier les conditions de régularité, l'utiliser si le modèle est mal spécifié, ou inverser une matrice singulière comme si elle était non singulière.

Conséquence

Sous les conditions de régularité, l'inverse de la matrice de Fisher fournit la covariance asymptotique de l'estimateur du maximum de vraisemblance et détermine la borne inférieure de Cramér–Rao pour les estimateurs non biaisés.

Inversion

L'information observée remplace l'espérance par le hessien négatif effectif au point des données ; en cas d'information tendant vers zéro l'inverse diverge, signalant une non-identifiabilité.

Limite

S'applique aux modèles paramétriques avec vraisemblances différentiables et espérances finies des produits de score ; exclut les paramétrisations de dimension infinie ou non différentiables et les cas à moments seconds infinis.

Tension sémantique

On la confond parfois avec le hessien négatif observé ; les deux coïncident en espérance mais diffèrent numériquement, surtout en petits échantillons ou si le modèle est mal spécifié.

Synthèse

La matrice d'information de Fisher est la mesure additive, fondée sur l'espérance, de la quantité d'information qu'une vraisemblance paramétrique fournit sur ses paramètres, et gouverne la variabilité asymptotique des estimateurs.