Un proceso estocástico definido de modo que cualquier colección finita de sus variables aleatorias tiene una distribución normal multivariante conjunta, especificado completamente por una función de media y una función de covarianza (núcleo) definida positiva.

Principio

Especificación completa mediante estadísticas de primer y segundo orden: la función de media fija la tendencia central y el núcleo de covarianza codifica similitud y suavidad, determinando todas las marginales de dimensión finita.

Demostración

Usar un proceso gaussiano de media cero con covarianza exponencial cuadrática como prior sobre funciones en regresión; condicionar sobre pares entrada–salida observados produce medias predictivas y varianzas en nuevas entradas.

Aplicación incorrecta

Suponer gaussianidad de los residuos o estacionariedad del núcleo sin comprobarlo; o usar un núcleo mal elegido que no pueda representar la clase de funciones, provocando sesgo sistemático.

Consecuencia

Proporciona estimación de funciones no paramétrica y probabilística con distribuciones predictivas en forma cerrada (media y varianza) bajo verosimilitud gaussiana y operaciones lineales.

Inversión

Un modelo paramétrico determinista (p. ej., un modelo lineal con bases fijas) produce predicciones puntuales sin la incertidumbre sobre la función que cuantifica intrínsecamente un proceso gaussiano.

Límite

Requiere un núcleo de covarianza definido positivo y, para inferencia práctica, a menudo supone ruido gaussiano o conjugado; no abarca procesos no gaussianos con leyes finito-dimensionales arbitrarias.

Tensión semántica

Existe tensión entre los procesos gaussianos como priors bayesianos no paramétricos flexibles y modelos de aprendizaje automático como redes neuronales profundas que ofrecen alta capacidad pero típicamente aproximaciones no probabilísticas.

Síntesis

Un proceso gaussiano es una ley gaussiana de dimensión infinita sobre funciones, caracterizada totalmente por una media y un núcleo de covarianza, usada para producir predicciones probabilísticas y cuantificar la incertidumbre sobre la función.