Une borne inférieure sur la variance de tout estimateur sans biais d'un paramètre, donnée par l'inverse de l'information de Fisher : Var(θ̂) ≥ 1 / I(θ).

Principe

Aucun estimateur sans biais ne peut avoir une variance inférieure au réciproque de l'information de Fisher calculée à partir de la vraisemblance du modèle ; l'égalité est obtenue pour des estimateurs efficients sous conditions de régularité.

Démonstration

Pour des échantillons i.i.d. gaussiens de variance connue σ^2 et moyenne μ, l'information de Fisher I(μ)=n/σ^2 donne Var(μ̂)≥σ^2/n, et la moyenne empirique atteint cette borne, étant efficiente.

Mauvaise application

Appliquer la borne à des estimateurs biaisés, ou à des modèles violant les hypothèses de régularité (p. ex. vraisemblances non différentiables), ou l'interpréter comme atteignable en petits échantillons sans vérifier les conditions.

Conséquence

Fournit une référence pour la performance des estimateurs, oriente la conception d'expériences en maximisant l'information de Fisher, et identifie quand un estimateur est asymptotiquement efficient.

Inversion

Lorsque la paramétrisation change ou que des estimateurs biaisés sont permis, on peut obtenir une variance inférieure au prix d'un biais ; la borne contraint seulement les estimateurs sans biais pour la paramétrisation donnée.

Limite

Valable sous hypothèses standards de régularité (vraisemblance différentiable, échange différentiation-intégration) ; ne s'applique pas directement aux estimateurs biaisés, contraints ou non paramétriques sans modification.

Tension sémantique

Souvent confondue avec une borne universelle pour tous les estimateurs ; elle est spécifique aux estimateurs sans biais pour le paramètre choisi et dépend du modèle et de la paramétrisation.

Synthèse

La borne de Cramér–Rao fixe une limite inférieure dépendant du modèle sur la variance des estimateurs sans biais via l'information de Fisher, servant de référence de performance et de guide de conception sous régularité.