UK AISI: neues MoU mit Microsoft für Frontier-KI-Sicherheit in 3 Bereichen

Was hat AISI bekannt gegeben?

Das britische AI Security Institute (AISI), das unter dem Department for Science, Innovation and Technology tätig ist, hat am 5. Mai 2026 eine neue Zusammenarbeit mit Microsoft angekündigt. Die Vereinbarung umfasst drei Forschungsbereiche zur Frontier-KI-Sicherheit — die leistungsfähigsten Systeme, die über die aktuelle Modellgeneration hinausgehen.

Microsoft veröffentlichte am selben Tag eine parallele Erklärung auf seinem Blog, womit die Partnerschaft von beiden Seiten formell bestätigt wurde.

Welche drei Bereiche deckt die Zusammenarbeit ab?

Die Vereinbarung definiert einen klar abgegrenzten Forschungsumfang:

• Bewertung hochriskanter Fähigkeiten — Methoden zur Einschätzung fortgeschrittener KI-Systemfähigkeiten in riskanten Kontexten
• Testen von Schutzmaßnahmen — Bewertung der Schutzmaßnahmen, die Frontier-Systeme zur Verhinderung von Missbrauch einsetzen
• Erforschung gesellschaftlicher Resilienz — wie konversationelle KI mit Nutzern in sensiblen Situationen interagiert (psychische Gesundheit, Desinformation u. Ä.)

Die drei Bereiche decken gemeinsam sowohl die technische Ebene (Modellfähigkeiten) als auch die menschliche Ebene (Endnutzer) ab.

Warum sucht AISI die Zusammenarbeit mit der Industrie?

In seiner offiziellen Erklärung hält AISI fest: „Da KI-Systeme immer leistungsfähiger werden, ist eine nachhaltige bidirektionale Zusammenarbeit zwischen der Regierung und den Unternehmen, die Frontier-KI entwickeln und einsetzen, für unser gemeinsames Verständnis der großen Risiken für die öffentliche und nationale Sicherheit unerlässlich.”

Anders gesagt: Der Regulierer erkennt an, dass er ohne Zugang zu Pre-Release-Modellen und internen Kennzahlen keine effektive Risikobewertung durchführen kann. Microsoft ist als einer der vier Frontier-Anbieter (neben OpenAI, Anthropic und Google DeepMind) in der Lage, diesen Zugang zu gewähren.

Was bedeutet das für die Frontier-KI-Sicherheit?

Die Partnerschaft erweitert das AISI-Netzwerk über frühere Vereinbarungen mit OpenAI und Anthropic hinaus. AISI deckt nun drei der vier führenden Frontier-Anbieter ab, was die Repräsentativität ihrer Bewertungen erhöht und das Risiko einer Marktverzerrung der Ergebnisse verringert.