Unlearning

Unlearning (maschinelles Verlernen) bezeichnet Verfahren, mit denen ein bereits trainiertes Modell den Einfluss bestimmter Trainingsdaten wieder verlieren soll – idealerweise so, als hätte es diese Daten nie gesehen, ohne das gesamte Training von Grund auf zu wiederholen.

Zusammenfassung

Yinzhi Cao und Junfeng Yang prägten den Begriff 2015 in einem sicherheitsorientierten Rahmen. Getrieben wurde das Forschungsfeld seither vor allem von Datenschutzrecht: Artikel 17 der DSGVO verlangt ein „Recht auf Löschung”, das bei klassischen Datenbanken einfach umzusetzen ist, bei einem bereits trainierten Modell aber grundsätzlich schwerer.

Mit dem Aufkommen großer Sprachmodelle gewann das Problem zusätzliche Dringlichkeit: Sprachmodelle memorieren nachweislich Ausschnitte ihrer Trainingsdaten, darunter urheberrechtlich geschütztes Material, personenbezogene Daten und potenziell gefährliches Fachwissen. Ein vollständiges Neutraining, um einzelne Daten zu entfernen, ist bei Modellen mit Milliarden Parametern jedoch häufig wirtschaftlich nicht vertretbar.

Begriffsgeschichte

Cao und Yang stellten 2015 auf dem IEEE Symposium on Security and Privacy den ersten systematischen Rahmen für maschinelles Verlernen vor, basierend auf statistischer Query-Lerntheorie. Ihr Ansatz zielte zunächst auf klassische, kleinere Modelle.

Einen wichtigen Fortschritt brachte 2021 die von Bourtoule und Kolleg:innen vorgestellte Methode SISA (Sharded, Isolated, Sliced, Aggregated Training): Die Trainingsdaten werden in disjunkte Teilmengen aufgeteilt, auf denen separate Teilmodelle trainiert und deren Vorhersagen anschließend zusammengeführt werden. Soll ein Datenpunkt vergessen werden, muss nur das betroffene Teilmodell neu trainiert werden, nicht das gesamte System.

Für große Sprachmodelle erwies sich dieser exakte Ansatz als zu unpraktisch, weshalb sich seit 2023 vor allem approximative Verfahren verbreiteten, die auf das Verlernziel hin nachjustieren, ohne ein formales Löschgarantie zu bieten.

Methodische Grundlagen

Man unterscheidet exaktes und approximatives Unlearning. Exakte Verfahren wie SISA garantieren, dass das Ergebnis identisch mit einem Modell ist, das nie mit den zu löschenden Daten trainiert wurde – erkauft durch zusätzlichen Trainingsaufwand und eine im Voraus festgelegte Datenaufteilung.

Approximative Verfahren verzichten auf diese Garantie zugunsten geringerer Kosten. Verbreitete Techniken sind Feinabstimmung mit umgekehrtem Gradientenanstieg auf die zu vergessende Datenmenge, Einflussfunktionen, die den Beitrag einzelner Datenpunkte zu den Modellgewichten schätzen, sowie kontrastive Dekodierungsverfahren, die Ausgaben aktiv von den zu vergessenden Inhalten wegsteuern. Keines dieser Verfahren beweist mathematisch, dass die Information tatsächlich vollständig entfernt wurde.

Anwendungsfelder

Der naheliegendste Anwendungsfall ist die Umsetzung von Löschansprüchen nach Datenschutzrecht: Eine Person verlangt, dass ihre personenbezogenen Daten aus einem trainierten Modell entfernt werden, ohne dass der Anbieter das gesamte Training wiederholen muss.

Ein zweites Feld ist der Umgang mit urheberrechtlich geschütztem oder memoriertem Material, das ein Modell reproduzieren kann. Ein drittes, sicherheitsorientiertes Feld betrifft potenziell gefährliches Fachwissen – etwa detailliertes Wissen zur Herstellung biologischer oder chemischer Waffen –, das ein Modell gezielt verlernen soll, ohne seine übrige Leistungsfähigkeit zu beeinträchtigen.

Kontroversen und Kritik

Der zentrale, bislang ungelöste Streitpunkt ist die Verifikation: Es existiert kein einheitlicher Standard, um nachzuweisen, dass ein Modell eine Information tatsächlich vergessen hat. Aktuelle Bewertungsverfahren stützen sich überwiegend auf empirische Leistungstests statt auf mathematische Garantien.

Mehrere Untersuchungen zeigen zudem, dass approximatives Unlearning häufig unvollständig bleibt: Selbst wenn ein Modell auf direkte Anfragen die vergessene Information nicht mehr preisgibt, können latente Repräsentationen davon in den Gewichten erhalten bleiben und sich über andere Fragestellungen wieder abrufen lassen. Kritiker:innen ziehen daraus den grundsätzlicheren Schluss, dass ein „Recht auf Vergessen” bei großen, verteilt kodierenden Modellen in der Praxis kaum durchsetzbar ist, solange keine verlässliche Nachweismethode existiert.

Verwandte Begriffe

• Differential Privacy – verhindert von vornherein, dass einzelne Datenpunkte rekonstruierbar werden, statt sie nachträglich zu entfernen
• DSGVO – Artikel 17 begründet den rechtlichen Löschanspruch, den Unlearning technisch umsetzen soll

Quellenangaben

1. Cao, Yinzhi / Yang, Junfeng, 2015. Towards Making Systems Forget with Machine Unlearning. IEEE Symposium on Security and Privacy 2015.
2. Bourtoule, Lucas / Chandrasekaran, Varun / Choquette-Choo, Christopher A. u. a., 2021. Machine Unlearning. IEEE Symposium on Security and Privacy 2021 (SISA). arXiv: 1912.03817.
3. Liu, Ken Ziyu, 2024. Machine Unlearning in 2024. Stanford University.

← Zurück zur Lexikon-Übersicht