Un algoritmo de Monte Carlo por cadenas de Markov que genera muestras de una distribución objetivo multivariante muestreando iterativamente cada variable (o bloque) desde su distribución condicional dada la configuración actual de las demás variables.

Principio

Construir un núcleo de Markov cuya distribución invariante sea la conjunta objetivo recorriendo actualizaciones condicionales; el balance detallado se mantiene para cada actualización por condicional completa y la cadena converge bajo condiciones estándar de irreducibilidad y aperiocidad.

Demostración

Para muestrear de una gaussiana bivariada con condicionales normales conocidas, alternar extraer x dado y y extraer y dado x; la sucesión de pares converge a la distribución gaussiana conjunta.

Aplicación incorrecta

Aplicar Gibbs cuando las distribuciones condicionales completas son intratables, asumir mezcla rápida sin diagnósticos, o tratar las muestras sucesivas de Gibbs como muestras independientes.

Consecuencia

Cuando se implementa correctamente y ha convergido, Gibbs produce muestras dependientes de la distribución conjunta deseada que pueden usarse para estimar expectativas posteriores, cuantificar incertidumbre y simular predicciones.

Inversión

El reverso es un esquema de propuesta global (p. ej. muestreo independiente o Metropolis–Hastings) que propone movimientos conjuntos en lugar de extracciones condicionadas por coordenada, cambiando la simplicidad de las condicionales por un posible mezclado más rápido en ciertos problemas.

Límite

Requiere la capacidad de muestrear exactamente (o eficientemente) cada condicional completa; el rendimiento empeora con alta dependencia entre coordenadas y para objetivos multimodales salvo que se usen actualizaciones por bloques o núcleos alternativos.

Tensión semántica

Tensión con Metropolis–Hastings: Gibbs es sencillo y exacto cuando las condicionales son accesibles, mientras que Metropolis–Hastings maneja objetivos arbitrarios con propuestas explícitas pero requiere aceptación y ajuste.

Síntesis

Un núcleo MCMC que alcanza la distribución objetivo reemplazando secuencialmente coordenadas por extracciones desde sus condicionales, ofreciendo simplicidad cuando las condicionales existen y precisando cuidado en convergencia y correlación.