Eine Klasse von Techniken, die auf schlecht gestellte oder instabile inversen Probleme und statistische Schätzungen angewendet werden und zusätzliche Nebenbedingungen oder Strafterme einführen, um Lösungen zu stabilisieren und Komplexität zu kontrollieren.

Prinzip

Einführen von Verzerrung oder Beschränkungen (Strafterme, Glättungsoperatoren, Parameterbeschränkungen), um erhöhte Stabilität gegen reduzierte Varianz oder Komplexität einzutauschen und so ein wohlgestelltes Ersatzproblem zu schaffen.

Demonstration

Tikhonov-Regularisierung: Statt A x = b (schlecht konditioniert) zu lösen, minimiert man ||A x − b||^2 + λ ||L x||^2 mit λ>0 und L, das Glätte kodiert; Ridge-Regression ist das enddimensionale Analogon.

Fehlanwendung

Wahl eines zu großen Regularisierungsparameters, der aussagekräftige Struktur auslöscht; Anwendung einer Strafe, die nicht zur a-priori-Glätte passt, was zu verzerrten oder inkonsistenten Schätzungen führt; oder Regularisierung zur Verschleierung von Modellfehlern zu verwenden.

Konsequenz

Erzeugt stabile, numerisch gut konditionierte Lösungen und kontrolliert Overfitting; führt zu systematischem Bias, dessen Größe von der gewählten Strafe und Parameterwahlmethode abhängt.

Umkehrung

Nicht-regularisierte Inversion oder Schätzung, die nur den Datenanpassungsterm minimiert und dadurch instabil, rauschempfindlich oder nicht eindeutig sein kann.

Abgrenzung

Relevant, wenn die Vorwärtsabbildung schlecht konditioniert ist, die Inversion instabil oder die Daten verrauscht sind; Regularisierung garantiert keine physikalische Korrektheit und erfordert Parameterwahl (Kreuzvalidierung, Diskrepanzprinzip oder modellbasierte Wahl).

Semantische Spannung

Es besteht Spannung zu Modellwahlansätzen, die sparsame oder diskrete Modelle bevorzugen gegenüber Glättungsstrafen; ebenso zu bayesschen Formulierungen, wo die Strafe einem Prior entspricht — unterschiedliche Philosophien führen zu unterschiedlichen praktischen Regeln.

Synthese

Eine kontrollierte Modifikation eines schlecht gestellten Problems durch Hinzufügen von Strafen oder Nebenbedingungen, um eine stabile Approximation zu erzeugen, deren Treue gegen Glätte oder Komplexität über einen Abstimmungsparameter abgewogen wird.