Un método iterativo para estimar por máxima verosimilitud parámetros en modelos estadísticos con variables latentes (ocultas) que alterna entre un paso de expectativa que calcula estadísticas suficientes esperadas dadas las actuales parámetros y un paso de maximización que actualiza parámetros para maximizar la verosimilitud esperada, repitiendo hasta la convergencia.

Principio

Descomponer una verosimilitud intratable en la expectativa de datos completos y maximizar ese sustituto: el paso E calcula la esperanza a posteriori de los datos ocultos condicionada a los observados y a los parámetros actuales; el paso M optimiza parámetros tratando esas expectativas como si fueran observadas.

Demostración

Ajuste de un modelo de mezcla gaussiana: E-step calcula responsabilidades (probabilidad de que cada componente generara cada punto) usando medias y varianzas actuales; M‑step actualiza medias, varianzas y pesos de mezcla por medias ponderadas con esas responsabilidades; iterar hasta que la verosimilitud se estabilice.

Aplicación incorrecta

Usar EM sin comprobar verosimilitudes multimodales, interpretar un máximo local como óptimo global, no regularizar cuando componentes colapsan, o aplicar EM con suposiciones de modelo incorrectas (p. ej. estructura de independencia condicional errónea).

Consecuencia

Cuando es apropiado, EM produce estimaciones de parámetros que aumentan monótonamente la verosimilitud observada y suele converger a un máximo local útil; la convergencia puede ser lenta y sensible a la inicialización, y EM estándar no garantiza hallar el máximo global en paisajes multimodales.

Inversión

Sustituir la alternancia iterativa de expectativa–maximización por la optimización directa de la verosimilitud marginal (cuando sea factible) o por métodos Monte Carlo (p. ej. MCMC) convierte el enfoque en muestreo global o en maximización directa basada en gradientes en lugar de pasos sustitutos alternos.

Límite

Se aplica a modelos con variables latentes donde las expectativas condicionales son calculables o aproximables; excluye modelos donde el paso E es intratable sin aproximación o donde las verosimilitudes están indefinidas; requiere manejo cuidadoso de soluciones degeneradas (p. ej. componentes con varianza cero).

Tensión semántica

A menudo se confunde con heurísticas similares a EM (p. ej. ascenso por coordenadas o inferencia variacional); EM es específicamente el esquema iterativo E‑step/M‑step que maximiza la esperanza del log‑verosimilitud de datos completos, mientras que los métodos variacionales optimizan una cota inferior con propiedades de convergencia distintas.

Síntesis

Expectation–maximization alterna el cálculo de expectativas de datos faltantes dados los parámetros actuales y la maximización de parámetros dadas esas expectativas: un marco de optimización por sustitutos que incrementa la verosimilitud observada en cada paso pero que converge a óptimos locales y depende de la capacidad de calcular expectativas.