Ein überwachtes Lernverfahren, das eine Entscheidungsgrenze (Hyperplane) findet, die Klassen durch Maximierung der Margin zwischen Support‑Vektoren — den Trainingspunkten, die der Grenze am nächsten liegen — trennt; optional werden Inputs mittels Kernel in höherdimensionale Merkmalsräume abgebildet, um Nichtlinearitäten zu handhaben.

Prinzip

Formuliere Klassifikation als konvexe Optimierung: Maximiere die Margin unter Klassifikationsbedingungen (Soft‑Margin erlaubt Schlupf für Fehlklassifikationen mit Regularisierung), oder nutze kernelisierte Darstellungen, um die Margin‑Maximierung im impliziten Merkmalsraum ohne explizite Koordinaten durchzuführen.

Demonstration

Binäre Klassifikation bei linear trennbaren Daten: Die SVM findet das Hyperplane, das in gleichem Abstand zu den nächsten Beispielen beider Klassen liegt; bei nicht trennbaren Daten erlaubt eine Soft‑Margin SVM Fehlklassifikationen, die durch einen Regularisierungsparameter bestraft werden; mit einem RBF‑Kernel lassen sich nichtlineare Grenzen implizit lernen.

Fehlanwendung

SVMs ohne Merkmalsskalierung einsetzen, ungeeignete Kernel oder Hyperparameter blind wählen, SVMs auf sehr großen Datensätzen ohne Approximation anwenden, oder die Margin als kalibrierte Wahrscheinlichkeit deuten (SVM‑Ausgaben sind nicht standardmäßig probabilistisch).

Konsequenz

Ergibt robuste Klassifikatoren mit guter Generalisierung, wenn Margin und Kernel gut gewählt sind; unterstützt dünnbesetzte Lösungen, die von Support‑Vektoren bestimmt werden, jedoch hängt die Leistung von Kernel‑Wahl, Parametertuning und Skalierung ab; die Komplexität der Vorhersage wächst mit der Anzahl der Support‑Vektoren.

Umkehrung

Die Margin‑Maximierung durch direkte empirische Risiko-Minimierung ohne Margin ersetzen (z. B. einfacher Perzeptron ohne Regularisierung) reduziert die Betonung der Robustheit und kann zu Overfitting oder Empfindlichkeit gegenüber Rauschen führen.

Abgrenzung

Anwendbar auf überwachtes binäres (und erweiterbar auf mehrklassiges) Klassifikations‑ und Regressionsprobleme (SVR); weniger geeignet ohne Kernelisierung für stark strukturierte Outputs oder wenn kalibrierte Wahrscheinlichkeiten ohne Nachbearbeitung nötig sind; erfordert numerische Merkmalsrepräsentationen.

Semantische Spannung

Wird manchmal mit Kernel‑Methoden im Allgemeinen oder mit Large‑Margin‑Ideen verwechselt; SVM ist konkret der maximale‑Margin‑Klassifikator, lösbar durch konvexe quadratische Programmierung, während andere kernelisierte Lerner andere Verlustfunktionen oder probabilistische Interpretationen bevorzugen.

Synthese

Support‑Vektor‑Maschinen finden Hyperflächen, die die Margin zwischen Klassen maximieren, verwenden Support‑Vektoren für dünnbesetzte Lösungen und Kernel zur Behandlung von Nichtlinearitäten: ein konvexes, marginzentriertes Framework, das robuste Grenzen liefert, aber sorgfältige Kernel‑ und Regularisierungswahl erfordert und nicht von Haus aus kalibrierte Wahrscheinlichkeiten liefert.