Una clase de técnicas aplicadas a problemas inversos mal planteados o inestables y a la estimación estadística que imponen restricciones adicionales o penalizaciones para estabilizar las soluciones y controlar la complejidad.

Principio

Introducir sesgo o restricciones (términos de penalización, operadores de suavizado, restricciones de parámetros) para cambiar mayor estabilidad por menor varianza o complejidad, buscando un problema sustituto bien planteado.

Demostración

Regularización de Tikhonov: en lugar de resolver A x = b (mal condicionada), minimizar ||A x − b||^2 + λ ||L x||^2 con λ>0 y L que codifica suavidad; la regresión ridge es el análogo en dimensión finita.

Aplicación incorrecta

Elegir un parámetro de regularización excesivamente grande que borre estructura significativa, aplicar una penalización no acorde con la regularidad a priori produciendo estimaciones sesgadas o inconsistentes, o usar la regularización para ocultar una mala especificación del modelo.

Consecuencia

Produce soluciones estables y numéricamente bien condicionadas y controla el sobreajuste; introduce un sesgo sistemático cuya magnitud depende de la penalización y del método de selección del parámetro.

Inversión

Inversión o estimación sin regularizar que minimiza solo el ajuste a los datos y por ello puede ser inestable, muy sensible al ruido o no única.

Límite

Relevante cuando el operador directo está mal condicionado, la inversa es inestable o los datos están ruidosos; la regularización no garantiza corrección física y requiere selección de parámetro (validación cruzada, principio de discrepancia o elección basada en el modelo).

Tensión semántica

Existe tensión con los enfoques de selección de modelo que prefieren modelos escasos o discretos frente a penalizaciones de suavizado; también con formulaciones bayesianas donde la penalización corresponde a una prior — filosofías distintas producen reglas prácticas diferentes.

Síntesis

Una modificación controlada de un problema mal planteado mediante la adición de penalizaciones o restricciones para producir una aproximación estable cuya fidelidad se equilibra frente a la suavidad o complejidad mediante un parámetro de ajuste.