Técnica lineal de reducción de dimensión que identifica direcciones ortogonales (componentes principales) en los datos que capturan sucesivamente la máxima varianza; se calcula típicamente mediante la diagonalización de la matriz de covarianza empírica o mediante descomposición en valores singulares de la matriz de datos.

Principio

Encontrar una base ortogonal que maximice la varianza proyectada en orden descendente de modo que una proyección de baja dimensión retenga, bajo restricciones lineales, la mayor parte de la estructura del segundo momento de los datos.

Demostración

Estandarizar un conjunto de datos multivariantes, calcular su matriz de covarianza muestral, diagonalizarla para obtener los ejes principales y proyectar los datos sobre los primeros k ejes para reducir la dimensión conservando la varianza predominante.

Aplicación incorrecta

Usar el método en datos con una variedad no lineal marcada sin preprocesamiento o no centrar las variables, lo que produce componentes engañosas que no capturan la estructura intrínseca.

Consecuencia

Produce características lineales no correlacionadas ordenadas por varianza explicada, simplifica la visualización, la reducción de ruido y algunas tareas posteriores, y revela direcciones de máxima variabilidad.

Inversión

Técnicas de reducción de dimensión no lineales (p. ej. aprendizaje de variedades) diseñadas para capturar estructura no lineal y relaciones que las componentes principales lineales no pueden representar.

Límite

Método lineal que se basa en estadísticas del segundo momento; no modela factores latentes generativos explícitamente y es sensible a la escala y a valores atípicos a menos que se preprocese.

Tensión semántica

A menudo se contrasta con el análisis factorial: la PCA se centra en maximizar la varianza y proyecciones ortogonales, mientras que el análisis factorial postula un modelo de variables latentes y trata la varianza residual de forma distinta.

Síntesis

La PCA es una técnica de proyección lineal que deriva un sistema de coordenadas ortogonal diagonalizando la covarianza empírica (o mediante SVD) para que las proyecciones de baja dimensión conserven la máxima varianza bajo la restricción de ortogonalidad.