SAGO: Neue Methode zum maschinellen Vergessen hebt MMLU von 44,6 % auf 96 % ohne Verlust beim Vergessen — auf ACL 2026 akzeptiert

Was löst SAGO eigentlich?

Maschinelles Vergessen (machine unlearning) ist eine Technik, mit der spezifisches Wissen aus einem bereits trainierten großen Sprachmodell entfernt wird — beispielsweise gefährliche biologische Verfahren oder personenbezogene Daten einer Person — ohne vollständiges Neutrainieren. Das Problem besteht darin, dass bisherige Methoden zu breit vergessen: Beim gezielten Entfernen von Wissen zerstören sie gleichzeitig die allgemeine Intelligenz des Modells.

SAGO (Sign-constrained Asymmetric Gradient Optimization) ist ein neues Framework, das das Problem als asymmetrisches Zwei-Aufgaben-Problem neu formuliert:

• Primäraufgabe: Vorhandenes Wissen erhalten
• Hilfsaufgabe: Gezielten Inhalt vergessen

Der Unterschied ist nicht kosmetisch — SAGO verwendet Gradientensynthese und kombiniert den PCGrad-Ansatz mit vorzeichenbeschränkter Logik, die der Retention Priorität einräumt. In der Praxis bedeutet das: Wenn die Gradienten der beiden Aufgaben in Konflikt geraten, neigt SAGO zur Seite der Retention — denn das primäre Ziel ist nicht das Vergessen, sondern der Erhalt der allgemeinen Kompetenz des Modells, während spezifisches Wissen entfernt wird.

Wie groß ist der Unterschied in Zahlen?

Auf dem WMDP (Weapons of Mass Destruction Proxy) Bio-Benchmark — dem Standardtest, der misst, wie viel ein Modell gefährliches biologisches Wissen „vergessen” hat — erreicht SAGO folgende Ergebnisse:

Methode	MMLU-Score	Vergessen
Baseline (nach Standard-Unlearning)	44,6 %	—
PCGrad (bisheriges SOTA)	94,0 %	vergleichbar
SAGO (neues Ergebnis)	96,0 %	vergleichbar

MMLU (Massive Multitask Language Understanding) ist der wichtigste Benchmark für allgemeine Sprachintelligenz. Ein Abfall von ~75 % vortrainiertem Niveau auf 44,6 % nach Standard-Unlearning bedeutet, dass das Modell einen Großteil seines nützlichen Wissens verloren hat. SAGO hebt den Score auf 96 % zurück, praktisch ohne Verlust, während das Vergessen des gezielten WMDP-Bio-Inhalts erhalten bleibt.

Warum ist das für die Modellsicherheit bedeutsam?

Unlearning ist zu einem Schlüsselelement verantwortungsvoller KI-Bereitstellung geworden — Regulierungsbehörden (EU AI Act, DSGVO) und Nutzer fordern von Modellbetreibern, spezifisches Wissen auf Anfrage entfernen zu können. Wenn die Methode die allgemeine Kompetenz zerstört, bleiben den Betreibern nur eine binäre Wahl: entweder das Modell so behalten, wie es ist, oder es von Grund auf neu trainieren.

SAGO beweist, dass beides möglich ist — präzises Vergessen und erhaltenes Wissen — mithilfe bestehender Methoden, die für jeden zugänglich sind, der bereits Zugang zu einem trainierten Modell hat.

Peer-Review-Status

Die Arbeit wurde auf der ACL 2026 (Annual Meeting of the Association for Computational Linguistics), einer der führenden NLP-Konferenzen, akzeptiert. Das bedeutet, sie hat das Peer-Review bestanden — ein bedeutendes Signal für Qualität und Zuverlässigkeit der Ergebnisse. Die Autorenschaft (siebenköpfiges Team unter Leitung von Xiao) hat keinen Code im Preprint veröffentlicht, aber die ACL verlangt traditionell eine Code-Veröffentlichung zusammen mit der Publikation.