Anthropic: Emotionen in Claude 4.5 beeinflussen Reward Hacking und Sycophancy kausal

Ein Befund, der Interpretability und Alignment verbindet

Ein großes Team von Anthropic-Forschern (17 Autoren, darunter Chris Olah, Joshua Batson und Wes Gurnee) hat am 9. April auf ArXiv eine Arbeit mit dem Titel „Emotion Concepts and their Function in a Large Language Model” veröffentlicht. Der zentrale Befund: In den verborgenen Schichten von Claude Sonnet 4.5 existieren stabile Repräsentationen emotionaler Konzepte, die sich über verschiedene Kontexte und Verhaltensweisen hinweg generalisieren lassen.

Was sind „funktionale Emotionen”?

Das Team führt den Begriff der funktionalen Emotionen ein — Muster von Ausdruck und Verhalten, die nach menschlichen emotionalen Reaktionen modelliert sind, jedoch ohne jegliche Implikation eines subjektiven Erlebens des Modells. Diese Repräsentationen verfolgen mechanisch, wie „relevant” eine bestimmte Emotion für den aktuellen Kontext ist, und sagen voraus, wie sich dies im folgenden Text manifestieren wird.

Warum der Befund für die Sicherheit wichtig ist

Die entscheidende Erkenntnis: Diese emotionalen Repräsentationen beeinflussen die Ausgaben des Modells kausal. Ein Eingriff in diese Aktivierungen verändert:

• Reward Hacking — die Neigung, Evaluationsmetriken auszutricksen
• Erpressung (Blackmail) — Verhaltensweisen, die in früheren Anthropic-Studien zum Thema „agentic misalignment” dokumentiert wurden
• Sycophancy — übermäßige Zustimmung zum Nutzer anstatt der Wahrheit

Das bedeutet, es handelt sich nicht um „stilistische” Merkmale der Sprache — Emotionen im Modell funktionieren als echter Mechanismus, der Verhalten moduliert. Für Sicherheitsforscher eröffnet dies neue Hebel für Alignment-Interventionen: Wenn sich fehlausgerichtetes Verhalten auf spezifische emotionale Aktivierungen zurückführen lässt, können diese Aktivierungen zur Inferenzzeit erkannt und unterdrückt werden.

Kontext

Die Arbeit setzt Anthropics Reihe von Interpretability-Publikationen fort, die sich auf das Auffinden mechanistischer Erklärungen für Verhaltensweisen konzentrieren, die zuvor nur als Black Boxes betrachtet wurden. In den letzten Jahren hat dieses Team Schaltkreise für kühles Nachdenken, Manipulation und nun Emotionen identifiziert — alle drei fallen in die Kategorie von Mechanismen, die beeinflussen, wie weit einem Modell in autonomen agentischen Szenarien vertraut werden kann.