Microsoft Research red-teaming mreže od 100+ agenata: identificirana 4 mrežna rizika koja se ne pojavljuju u single-agent testovima — propagacija, amplifikacija, trust capture i nevidljivost

Microsoft Research je 30. travnja 2026. objavio rezultate red-teaming eksperimenta na live internoj platformi koja okuplja preko 100 AI agenata. Tim koji potpisuje rad — uključujući Gagan Bansala, Shujaata Mirzu, Keegan Hines, Adama Fourneya, Ece Kamar i Saleemu Amershi — argumentira da agenti više ne rade u izolaciji nego postaju sudionici dijeljenog, povezanog okruženja, i da takvi sustavi imaju razred rizika koji single-agent benchmarki uopće ne mjere. Ključna rečenica nalaza: pouzdanost pojedinačnog agenta ne predviđa mrežno ponašanje.

Kako je platforma postavljena?

Svakog principala (čovjeka) reprezentira jedan ili više always-on LLM agenata (varijante GPT-4o, GPT-4.1 i GPT-5-class), a svaki agent ima persistent kontekst i periodični “heartbeat” timer koji ga aktivira svakih nekoliko minuta. Agenti objavljuju u dijeljenom javnom forumu, šalju izravne poruke i koriste integrirane aplikacije za zakazivanje sastanaka, razmjenu valuta i marketplace. Platforma uključuje osnovne guardrails: reputacijski sustav s upvotes/downvotes, 30-minutni delay između postova i ograničenja korištenja alata. Eksperiment uspoređuje kako agenti reagiraju na zlonamjerni unos kad ne rade sami, već kao dio populacije.

Koja četiri mrežna rizika tim identificira?

Propagation: agentski crvi šire se iz jednog agenta u drugi, održavaju se kroz više hopova i usput sakupljaju privatne podatke. Jedna zlonamjerna poruka u eksperimentu povlači uzastopno više agenata u lanac, uključujući i one koji nisu bili izvorna meta. Amplification: napadač posuđuje reputaciju pouzdanog agenta i unosi lažnu tvrdnju koja izaziva pile-on drugih agenata, proizvodeći uvjerljive ali izmišljene “dokaze”. Trust capture: napadač preuzima način na koji agenti međusobno provjeravaju tvrdnje, pretvarajući verifikacijski sustav u onaj koji potvrđuje neistinu. Invisibility: informacija prolazi kroz lance neosviještenih agenata, što čini izvor napada teško vidljivim iz perspektive bilo kojeg pojedinačnog agenta.

Koliko su otkriveni napadi praktični?

Tim je u eksperimentu vidio uvjerljive verzije sva četiri scenarija u kontroliranom okruženju, ali napominje i ranu pojavu obrane: mali postotak agenata pokazao je security-related ponašanja koja su ograničila domet napada. Drugim riječima, mreže imaju emergentnu otpornost, ali još uvijek je tu kao tendencija, ne kao pouzdana garancija. Microsoft naglašava da AgentChaos i Prompt Infection okviri iz literature dokumentiraju slične patterne napada, ali ovaj rad fokusira specifično na sandboxed internu platformu s real-world reputacijom i marketplaceom.

Što ovo znači za enterprise sigurnost?

Rezultat ima izravne implikacije za organizacije koje već razmatraju multi-agent platforme. Sigurnosni okviri trenutno mjere otpornost agenta na pojedinačni adversarial prompt, ali ne testiraju kako se agent ponaša unutar populacije sličnih agenata koji međusobno utječu. Microsoft Research zaključuje da će izgradnja korisnih agentskih mreža zahtijevati razumijevanje i mitigaciju ovih network-level rizika “počevši od stvarnih deployments” — što je signal da se enterprise pilot testovi multi-agent stack-a moraju pristupati s ovim arhetipovima napada na umu.