Une valeur de paramètre (ou une règle produisant cette valeur à partir des données) qui maximise la fonction de vraisemblance des données observées sous un modèle paramétrique spécifié ; obtenue opérationnellement en maximisant la log-vraisemblance.

Principe

Choisir les paramètres qui rendent les données observées les plus probables sous le modèle ; l'optimisation exploite l'information de gradient ou d'ordre deux et des conditions de régularité assurent un comportement convenable des estimateurs.

Démonstration

Pour des essais de Bernoulli indépendants avec probabilité de succès inconnue θ, la vraisemblance est θ^{k}(1−θ)^{n−k} ; l'estimateur du maximum de vraisemblance est θ̂ = k/n, la proportion d'observations positives.

Mauvaise application

Utiliser l'estimateur sans vérifier l'identifiabilité du modèle ou les conditions de régularité (par exemple paramètres en bordure, information de Fisher infinie) ou l'appliquer sans remise en question lorsque le modèle est fortement mal spécifié, ce qui produit des estimations biaisées ou inconsistantes.

Conséquence

Sous des conditions de régularité standard, l'estimateur est consistant et se concentre autour du paramètre vrai lorsque les données augmentent ; il fournit des estimations ponctuelles invariantes par réparamétrisation monotone de la vraisemblance et sert souvent de base à l'inférence asymptotique.

Inversion

Un estimateur bayésien conditionne sur une loi a priori et minimise la perte espérée a posteriori ; il incorpore une information préalable et produit un objet différent (une loi a posteriori ou un estimateur ponctuel a posteriori optimal) plutôt que la simple maximisation de la vraisemblance.

Limite

S'applique dans des modèles paramétriques où la vraisemblance est bien définie et optimisable ; exclut les procédures non paramétriques qui ne spécifient pas une famille de vraisemblances de dimension finie et les cadres dépourvus d'identifiabilité ou de régularité suffisante.

Tension sémantique

Les estimateurs par les moments égalisent moments de population et moments empiriques et peuvent être plus simples à calculer, tandis que le maximum de vraisemblance vise la maximisation de la vraisemblance et atteint souvent l'efficience sous spécification correcte.

Synthèse

L'estimateur du maximum de vraisemblance choisit les paramètres qui maximisent la probabilité des données observées sous un modèle paramétrique, fournissant une estimation ponctuelle fondée sur l'optimisation dont les propriétés en grand échantillon résultent des conditions de régularité.