Anthropic veröffentlicht Regulierungsrahmen für das Management fortschrittlicher KI-Systeme

Warum die bestehende Regulierung für KI nicht ausreicht

Anthropic, das Unternehmen hinter dem Claude-Assistenten, hat einen umfassenden Politikvorschlag zur Regulierung von Frontier-KI-Systemen veröffentlicht. Das Dokument geht von der These aus, dass „Politik für eine langsamere Welt entworfen wurde” — Regulierungsinstitutionen und Gesetzgebungsverfahren, die sich über Jahrzehnte entwickelt haben, stehen nun vor einer Technologie, die unvergleichlich schneller voranschreitet als frühere industrielle Revolutionen.

Die zentrale Botschaft des Dokuments ist, dass die Grenze der KI-Entwicklung kein technisches Problem mehr ist — sie ist eine gesellschaftliche und regulatorische Frage, die schnelles und kohärentes staatliches Handeln erfordert.

Für wen würde der neue Rahmen gelten?

Anthropic schlägt zwei klare Anwendungsschwellen vor, die bestimmen, wer unter den Regulierungsrahmen fällt:

• Rechenleistung: Modelle, die mit mehr als 10²⁵ Gleitkommaoperationen (FLOPs) trainiert wurden — ein Maß, das die tatsächliche Rechenleistung widerspiegelt, die für das Training der fortschrittlichsten Systeme erforderlich ist
• Unternehmensgröße: Unternehmen mit mehr als 500 Millionen Dollar KI-Einnahmen oder mehr als einer Milliarde Dollar jährlicher KI-F&E-Ausgaben

Diese Schwellen sind bewusst hoch angesetzt, damit die Regulierung ausschließlich Akteure erfasst, die die leistungsfähigsten und potenziell gefährlichsten Systeme entwickeln — und nicht Startups oder akademische Einrichtungen.

Vier katastrophale Risiken im Zentrum des Rahmens

Anthropic identifiziert vier Risikokategorien, die es als katastrophal beschreibt und die eine besondere regulatorische Behandlung rechtfertigen:

1. Biologisches Risiko — KI-Systeme, die in der Lage sind, die Entwicklung von Krankheitserregern und biologischen Waffen ohne angemessene Schutzmaßnahmen zu unterstützen
2. Cyberrisiko — Frontier-Modelle, die kritische Software- und Infrastrukturlücken in großem Maßstab identifizieren können
3. Kontrollverlust — Systeme, die die von ihren Entwicklern gesetzten Parameter überschreiten, was zu unvorhersehbarem autonomem Verhalten führt
4. Automatisierung der KI-Forschung — KI, die die eigene Entwicklung automatisiert und damit den Fortschritt exponentiell beschleunigt, möglicherweise außerhalb menschlicher Aufsicht

Was der Rahmen von Entwicklern fordern würde

Transparenz und Berichterstattung

Unternehmen, die Frontier-Modelle entwickeln, müssten Zusammenfassungen von Sicherheitsbewertungen öffentlich veröffentlichen, Rahmenwerke zur Bewertung katastrophaler Risiken sowie regelmäßige Berichte über Modellfähigkeiten. Ziel ist es sicherzustellen, dass Informationen über die Fähigkeiten von KI-Systemen nicht ausschließlich innerhalb von Unternehmen verbleiben.

Unabhängige Evaluierung

Entwickler müssten qualifizierte unabhängige Evaluatoren (Third-Party Evaluators) beauftragen, die Sicherheitsbewertungen prüfen. Dies ist eine wesentliche Abkehr von der bisherigen Praxis der Selbstbewertung — die Industrie sollte nicht selbst über ihre eigenen Risiken urteilen dürfen.

Schutz von Modellen und Infrastruktur

Das Dokument betont besonders die Anforderung an den Schutz von Modellgewichten (Model Weights) und der Trainingsinfrastruktur sowie die öffentliche Veröffentlichung der Struktur von Sicherheitsprogrammen und der Ergebnisse regelmäßiger Verteidigungstests.

Befugnisse, die der Rahmen Regierungen verleihen würde

Eine der zentralen Empfehlungen ist, dass Regierungen die rechtliche Befugnis haben müssen, die Bereitstellung von Modellen zu blockieren oder zu verzögern, die ein erhebliches katastrophales Risiko darstellen. Darüber hinaus wird die Einführung von Geldbußen, die an den globalen Jahresumsatz des Unternehmens gebunden sind, vorgeschlagen, die bei Wiederholungsverstößen eskalieren — ein Mechanismus, der sicherstellen soll, dass Sanktionen auch für die größten Technologiekonzerne finanziell spürbar sind.

Föderalismus: Bundes- vs. Staatsgesetze

Das Dokument berührt auch die sensible Frage der Regulierungszuständigkeit in den USA. Anthropic stellt ausdrücklich fest, dass der Kongress keine Vorrangigkeit gegenüber den Gesetzen einzelner Bundesstaaten (Federal Preemption) vorsehen sollte, es sei denn, die Bundesregulierung ist mindestens so streng wie der vorgeschlagene Rahmen. Die Bundesstaaten sollen die Zuständigkeit für Kinder- und Verbraucherschutz behalten — eine klare Botschaft an die Bundesgesetzgeber, die Schutzstandards nicht durch eine Vereinheitlichung auf niedrigerem Niveau abzubauen.

Breiterer Kontext

Dieses Dokument erscheint zu einem Zeitpunkt, an dem sowohl in der Europäischen Union als auch in den USA intensive Debatten über die Regulierung von KI-Systemen geführt werden. Anthropic, als Unternehmen, das einige der leistungsfähigsten KI-Systeme auf dem Markt entwickelt, nimmt eine ungewöhnliche Position ein — es befürwortet eine Regulierung, die auch für sich selbst gelten würde. Dieser voluntaristische Ansatz mit konkreten Schwellen und Mechanismen unterscheidet diesen Vorschlag von den abstrakten ethischen Deklarationen, mit denen die Industrie häufig auf Regulierungsdruck reagiert.

Es bleibt abzuwarten, ob dieser Vorschlag seinen Weg in konkrete Gesetzesinitiativen finden wird — aber als Referenzdokument, das von einem der führenden KI-Entwickler stammt, wird er die Fachdiskussion über die Zukunft der Regulierung von Frontier-KI-Systemen zweifellos prägen.