Ein Lernparadigma, bei dem ein einziges Modell gleichzeitig für mehrere verwandte Aufgaben trainiert wird, um gemeinsame Repräsentationen zu nutzen und die Generalisierung über Aufgaben hinweg zu verbessern.

Prinzip

Gemeinsame Optimierung eines Modells, sodass geteilte Parameter gemeinsame Strukturen der Aufgaben erfassen, während aufgabenspezifische Komponenten Unterschiede behandeln; induktiver Transfer reduziert Overfitting und verbessert Dateneffizienz.

Demonstration

Ein neuronales Netz mit geteilten Encoder-Schichten und separaten Ausgabeköpfen für Wortarten-Tagging, Named-Entity-Recognition und syntaktisches Chunking trainieren, sodass der Encoder sprachliche Repräsentationen erlernt, die für alle drei Aufgaben nützlich sind.

Fehlanwendung

Sehr unähnliche Aufgaben (z. B. medizinische Bildsegmentierung und Musikkgenre-Klassifikation) ohne architektonische oder verlustfunktionale Anpassung in ein gemeinsames Modell pressen, was zu negativem Transfer führt, bei dem die Leistung einer oder mehrerer Aufgaben abnimmt.

Konsequenz

Bei geeigneter Aufgabenverwandtschaft und ausgewogenen Verlusten zeigen Modelle typischerweise bessere Generalisierung, benötigen weniger Parameter als mehrere unabhängige Modelle und können nützliche Merkmale aus begrenzten Daten lernen.

Umkehrung

Getrennte Einzelaufgaben-Modelle, die unabhängig trainiert werden, jeweils mit dedizierten Parametern und ohne geteilte Repräsentation zwischen den Aufgaben.

Abgrenzung

Gilt, wenn Aufgaben gemeinsame Repräsentationsbedürfnisse oder Eingabemodalitäten haben; weniger geeignet bei unverbundenen Aufgaben, widersprüchlichen Optimierungszielen oder wenn aufgabenspezifische Daten dominieren. Erfordert sorgfältige Gewichtung der Aufgaben, Architekturentwurf und Validierung, um die Dominanz einer Aufgabe zu vermeiden.

Semantische Spannung

Überlappt mit Transferlernen und Multi-Objective-Optimierung: Transferlernen fokussiert sequentielle Wiederverwendung von Parametern; Multi-Objective behandelt Aufgaben als gleichzeitige Ziele. Multi-Task-Lernen betont das gleichzeitige Lernen gemeinsamer Repräsentationen über Aufgaben hinweg.

Synthese

Multi-Task-Lernen vereinigt mehrere verwandte prädiktive Ziele in einem Trainingsprozess, sodass gemeinsame Komponenten gemeinsame Strukturen erlernen, während aufgabenspezifische Teile Unterschiede bewahren — dies führt zu parameter-effizienten Modellen, die bei kompatiblen und ausgewogenen Aufgaben besser generalisieren.