Una función simétrica y semidefinida positiva k(x,y) sobre un conjunto índice que representa la función de covarianza de un proceso estocástico de segundo orden o el núcleo de Mercer de un operador integral positivo; para cualquier colección finita {x_i} la matriz [k(x_i,x_j)] es semidefinida positiva.

Principio

La positividad definita caracteriza la covarianza: k es un núcleo de covarianza si y solo si todas las matrices de Gram finitas son semidefinidas positivas, lo que da lugar a un espacio de Hilbert con núcleo reproducing (RKHS) y a un operador integral con espectro no negativo.

Demostración

El núcleo gaussiano k(x,y)=σ^2 exp(−||x−y||^2/(2ℓ^2)) es un núcleo de covarianza de un proceso gaussiano estacionario y define un operador integral compacto y positivo en L2 de un dominio acotado con expansión de Mercer en autofunciones ortonormales.

Aplicación incorrecta

Usar una medida de similitud simétrica que no sea semidefinida positiva como si fuera un núcleo de covarianza, conduciendo a matrices de Gram con autovalores negativos e varianzas imposibles o inferencias de procesos gaussianos mal planteadas.

Consecuencia

Un verdadero núcleo de covarianza define la estructura de covarianza de prioris de procesos gaussianos, induce un RKHS de funciones para interpolación y regularización, y asegura que los operadores integrales asociados tengan espectros no negativos que permiten descomposiciones espectrales.

Inversión

Una función de similitud o distancia simétrica que carece de positividad definita no puede servir como núcleo de covarianza; puede ser útil de forma heurística pero no garantiza consistencia probabilística ni la estructura RKHS.

Límite

Se aplica a funciones simétricas en (x,y) y semidefinidas positivas sobre muestras finitas; excluye núcleos que dependan de términos cruzados no simétricos, covarianzas firmadas sin semidefinitud, u objetos que requieran nociones de covarianza no conmutativas (núcleos con valores de operador).

Tensión semántica

Existe tensión entre núcleos de covarianza usados en modelado probabilístico (requieren PSD) y medidas heurísticas de similitud en aprendizaje automático que priorizan discriminación o localidad sin garantías PSD.

Síntesis

Un núcleo de covarianza es una función simétrica semidefinida positiva cuyas matrices de Gram finitas lo son; codifica dependencia de segundo orden, genera estructura RKHS y sustenta los operadores de covarianza de procesos gaussianos y sus descomposiciones espectrales.