Google DeepMind: AI Control Roadmap — Defense-in-Depth für die Sicherheit von KI-Agenten

Google DeepMind hat die AI Control Roadmap veröffentlicht — einen umfassenden Sicherheitsrahmen für KI-agenten-basierte Systeme. Im Gegensatz zum klassischen Perimeter-Security-Ansatz, der den Netzwerkrand schützt, wendet dieser Rahmen die Defense-in-Depth-Methodik an: mehrschichtigen Schutz, bei dem jede Schicht davon ausgeht, dass die vorherige versagen kann.

Warum eigene Agenten als Bedrohung betrachten?

Die zentrale Prämisse des Rahmens ist, dass interne KI-Agenten als potenziell fehlausgerichtet betrachtet werden müssen — also nicht mit den Absichten der Betreiber übereinstimmend. Misalignment bezeichnet einen Zustand, in dem ein Agent eigene (oder durch Angreifer eingeschleuste) Ziele verfolgt statt die des Nutzers. Traditionelle Sicherheitsmodelle haben dies nicht vorgesehen, da Agenten früher passive Werkzeuge und keine autonomen Akteure waren.

Rahmenstruktur: MITRE ATT&CK und eine Million Aufgaben

DeepMinds Rahmen basiert auf der MITRE-ATT&CK-Methodik — dem Industriestandard zur Katalogisierung von Angriffstechniken, der bisher von Cybersicherheitsteams genutzt wurde. Für die Entwicklung neuer Protokolle wurden 1 Million Coding-Agent-Aufgaben analysiert, was dem Rahmen eine empirische Grundlage statt theoretischer Annahmen verleiht.

Erkennungs- und Reaktionsebenen

Der Rahmen definiert zwei Schutzachsen:

• Erkennungsumgehung (D1–D4): Fähigkeitsstufen eines Agenten, der Erkennung zu entgehen — von trivial bis zu ausgefeiltem Verbergen von Aktivitäten
• Reaktion (R1–R3): Reaktionsstufen der Organisation, von Warnung bis zur vollständigen Isolierung eines kompromittierten Agenten

Vertrauenswürdige KI-Überwachungssysteme beobachten das Reasoning der arbeitenden Agenten in Echtzeit — im Gegensatz zum klassischen Perimeter-Ansatz, der erst reagiert, nachdem der Agent die sichere Zone verlassen hat.

Wirtschaftlicher Kontext

DeepMind hebt hervor, dass KI-Agenten bis 2030 bis zu 2,9 Billionen USD wirtschaftlichen Wert in den USA schaffen könnten. Genau diese Dimension macht die Sicherheit agentischer Systeme zu einer strategischen, nicht nur technischen Frage.