HuggingFace-Manifest: Open Source als Grundlage der KI-Cybersicherheit

Am 21. April 2026 veröffentlichte HuggingFace ein umfangreiches Manifest, in dem Margaret Mitchell, Yacine Jernite, Clem Delangue und 17 Mitautoren argumentieren, dass die Zukunft der Cyberabwehr von offenen Modellen, offenem Scaffolding und auditierbaren Nachweisen abhängt. Der Text ist eine direkte Antwort auf Anthropics Mythos-Projekt.

Warum stellen geschlossene KI-Systeme eine einzige Fehlerquelle dar?

Die Autoren argumentieren, dass KI-Fähigkeiten in der Cybersicherheit nicht gleichmäßig sind — sie hängen von dem System ab, in dem das Modell betrieben wird (Rechenleistung, Software-Daten, Scaffolding zur Schwachstellenentdeckung, Autonomie). Bei geschlossenen Projekten liegt dieses System bei einem einzigen Anbieter. Das bedeutet, dass nur eine Organisation den Code einsehen und reparieren kann, was die Autoren als „Single Point of Failure” — einzige Fehlerquelle — beschreiben. Ein zusätzliches Problem ist, dass KI-Tools obfuskierte Binärdateien zunehmend durch Reverse Engineering entschlüsseln, sodass proprietäre Verschleierung aufhört, eine Verteidigungsstrategie zu sein. Offene Ökosysteme hingegen verteilen die Arbeit auf vier Phasen: Erkennung, Verifizierung, Koordination und Patch-Propagierung. Jede dieser Phasen profitiert von mehr Augen und Teams, die Erkenntnisse teilen.

Wie verstärken KI-Tools Schwachstellen in geschlossenem Code?

Das Manifest warnt vor einem Szenario, das sich bereits abspielt: Unternehmen übernehmen KI-Tools für die Code-Entwicklung unter falschen Anreizen — Geschwindigkeit vor Sicherheit. Unter solchen Bedingungen kann laut den Autoren „KI-beschleunigte Entwicklung mehr Schwachstellen in proprietären Code einbringen als traditionelle Entwicklung”. Diese Schwachstellen sitzen dann in einer geschlossenen Codebasis, wo sie nur eine Organisation finden und beheben kann, während KI-bewaffnete Angreifer dieselben Lücken von außen immer erfolgreicher entdecken. Die Autoren nennen dieses Risiko eine „Asymmetrie der Fähigkeiten” zwischen Angreifern und Verteidigern — offene Modelle und Tools verringern diese Lücke, da sie Verteidigern Zugang zur gleichen Klasse von Fähigkeiten geben, auf die Angreifer zurückgreifen.

Was sind semi-autonome Agenten mit Aufsicht und warum empfehlen die Autoren sie?

Statt vollständig autonomer Systeme, die ohne menschlichen Einblick arbeiten, schlägt das Manifest semi-autonome Agenten vor — Systeme, bei denen Aktionen vordefiniert sind, bestimmte Schritte menschliche Genehmigung erfordern und Menschen die Kontrolle behalten. Der Schlüsselsatz lautet: „‘Mensch in der Schleife’ ergibt nur Sinn, wenn der Mensch in die Schleife hineinschauen kann.” Damit diese Aufsicht real ist, werden offenes Agent-Scaffolding, eine offene Rule Engine und auditierbare Entscheidungs- und Nachverfolgungsprotokolle benötigt. Für Organisationen mit hohem Einsatz (Banken, Krankenhäuser, kritische Infrastruktur) bedeutet dies die Möglichkeit, Überwachungssysteme zu inspizieren, auf eigenen Daten feinabzustimmen, benutzerdefinierte Aufsichtsmechanismen zu implementieren und in einer internen Umgebung zu arbeiten — ohne sensible Daten an externe KI-Anbieter zu senden. Die Autoren schlussfolgern, dass die Zukunft der Cybersicherheit durch Ökosysteme, nicht durch einzelne Modelle geprägt wird, und Offenheit der einzige Weg ist, der Verteidigern Sichtbarkeit, Kontrolle und gemeinsame Infrastruktur gibt, um Angreifern einen Schritt voraus zu bleiben.