Une procédure de Monte Carlo par chaîne de Markov qui construit une chaîne réversible dont la distribution stationnaire coïncide avec une distribution cible spécifiée en proposant des mouvements candidats et en les acceptant avec une probabilité qui impose l'équilibre détaillé.

Principe

Proposer itérativement des candidats via un noyau de proposition et accepter ou rejeter selon un ratio d'acceptation qui corrige l'asymétrie de la proposition et la densité cible, assurant que la distribution invariante de la chaîne est la cible.

Démonstration

Pour échantillonner une densité postérieure p(θ|données), choisir une proposition q(θ'|θ), puis depuis l'état θ proposer θ' et accepter avec probabilité min(1, [p(θ') q(θ|θ')] / [p(θ) q(θ'|θ)]) ; les états acceptés forment une chaîne convergeant vers p.

Mauvaise application

Utiliser des propositions symétriques mal mises à l'échelle dans des problèmes de haute dimension sans adaptation, ce qui entraîne un mélange très lent et des estimations biaisées à temps fini par exploration insuffisante.

Conséquence

Mis en œuvre avec des propositions et diagnostics appropriés, il fournit des échantillons distribués asymptotiquement selon la cible, permettant une estimation consistante d'espérances sous cette distribution.

Inversion

Un échantillonneur direct indépendant qui tire des échantillons iid de la cible en une seule étape inverserait le besoin de transitions markoviennes ; de tels échantillonneurs ne sont réalisables que lorsque la cible est directement accessible.

Limite

S'applique aux distributions cibles connues à une constante de normalisation près et exige la possibilité d'évaluer des densités non normalisées et de tirer de la proposition ; non applicable lorsque aucune des deux n'est réalisable.

Tension sémantique

En concurrence avec d'autres stratégies d'échantillonnage (p. ex. échantillonnage par importance, méthodes séquentielles) ; la tension porte sur le compromis entre exactitude asymptotique, efficacité en échantillon fini et facilité d'ajustement des propositions.

Synthèse

Metropolis–Hastings combine une mécanique de proposition locale avec une correction d'acceptation pour produire une chaîne de Markov réversible dont la loi stationnaire est la cible souhaitée, permettant un échantillonnage asymptotiquement exact par étapes itératives d'acceptation–rejet.