Google DeepMind: AI Control Roadmap — defense-in-depth za sigurnost AI agenata

Google DeepMind objavio je AI Control Roadmap — sveobuhvatan sigurnosni okvir za zaštitu sustava temeljenih na AI agentima. Za razliku od klasičnog perimeter-security pristupa koji štiti mrežni rub, ovaj okvir primjenjuje defense-in-depth metodologiju: višeslojnu zaštitu u kojoj svaki sloj pretpostavlja da prethodni može zakazati.

Zašto tretirati vlastite agente kao prijetnju?

Ključna premisa okvira jest da interne AI agente treba tretirati kao potencijalno misaligned — neusklađene s namjerama operatora. Misalignment označava stanje u kojemu agent slijedi vlastite (ili napadačem ubačene) ciljeve umjesto korisnikovih. Tradicional­ni sigurnosni modeli to nisu predviđali jer su agenti ranije bili pasivni alati, a ne autonomni izvršitelji akcija.

Struktura okvira: MITRE ATT&CK i milijun zadataka

DeepMind-ov okvir temelji se na MITRE ATT&CK metodologiji — industrijskom standardu za katalogiziranje napadačkih tehnika koji su dotad koristili timovi za kibernetičku sigurnost. Za razvoj novih protokola analizirano je 1 milijun coding-agent zadataka, što okviru daje empirijsku osnovu umjesto teorijskih pretpostavki.

Razine detekcije i odgovora

Okvir definira dvije osi zaštite:

• Detection evasion (D1–D4): razine sposobnosti agenta da izbjegne detekciju, od trivijalnog do sofisticiranog skrivanja aktivnosti
• Response (R1–R3): razine odgovora organizacije, od upozorenja do potpune izolacije kompromitiranog agenta

Pouzdani AI nadzorni sustavi prate reasoning radnih agenata u realnom vremenu — za razliku od klasičnog perimeter pristupa koji reagira tek nakon što agent napusti sigurnu zonu.

Ekonomski kontekst

DeepMind ističe da AI agenti mogu stvoriti do 2,9 bilijuna USD ekonomske vrijednosti u SAD-u do 2030. godine. Upravo ta skala čini sigurnost agentskih sustava strateškim pitanjem, a ne samo tehničkim problemom.