Ein Markov-Chain-Monte-Carlo-Algorithmus, der Stichproben aus einer mehrdimensionalen Zielverteilung erzeugt, indem nacheinander jede Variable (oder Block) aus ihrer bedingten Verteilung gegeben die aktuellen Werte der übrigen Variablen gezogen wird.

Prinzip

Konstruktion eines Markov-Kernels, dessen invariante Verteilung die gemeinsame Zielverteilung ist, durch zyklische bedingte Aktualisierungen; detailed balance gilt für jede vollständige Bedingung und die Kette konvergiert unter Standardbedingungen wie Irreduzibilität und Aperiodizität.

Demonstration

Um aus einer bivariaten Normalverteilung mit bekannten bedingten Normalverteilungen zu sampeln, wechselt man zwischen dem Ziehen von x|y und y|x; die Folge der Paare konvergiert zur gemeinsamen Normalverteilung.

Fehlanwendung

Gibbs-Updates anzuwenden, wenn vollständige Bedingungsdichten unzugänglich sind, ohne Diagnostik schnelles Mischen anzunehmen, oder sukzessive Gibbs-Ziehungen als unabhängige Proben zu behandeln.

Konsequenz

Bei korrekter Implementierung und Konvergenz liefert Gibbs-Sampling abhängige Ziehungen aus der gewünschten gemeinsamen Verteilung, die zur Schätzung posteriorer Erwartungen, Unsicherheitsquantifizierung und prädiktiven Simulationen verwendet werden können.

Umkehrung

Die Umkehr ist ein globaler Vorschlagsmechanismus (z. B. unabhängiges Sampeln oder Metropolis–Hastings), der gemeinsame Sprünge vorschlägt statt koordinatenweiser bedingter Ziehungen und so die Einfachheit der Bedingungsdichten gegen möglicherweise schnelleres Mischen tauscht.

Abgrenzung

Voraussetzung ist die Fähigkeit, jede vollständige Bedingung exakt (oder effizient) zu sampeln; die Leistung verschlechtert sich bei starker Korrelation zwischen Koordinaten und multimodalen Zielen, sofern nicht Block-Updates oder alternative Kerne eingesetzt werden.

Semantische Spannung

Spannung zu Metropolis–Hastings: Gibbs ist einfach und exakt bei zugänglichen Bedingungsdichten, während Metropolis–Hastings beliebige Ziele mit expliziten Vorschlägen behandelt, aber Akzeptanzmechanismen und Feintuning benötigt.

Synthese

Ein MCMC-Kernel, der die Zielverteilung durch sequenzielles Ersetzen von Koordinaten durch Ziehungen aus ihren Konditionalverteilungen erreicht; er ist einfach bei verfügbaren Konditionalen, erfordert aber Sorgfalt hinsichtlich Konvergenz und Korrelation.