GitHub: Naučite hakirati AI agente kroz interaktivnu igru sigurnosti

GitHub je danas pokrenuo četvrtu sezonu svog popularnog Secure Code Game-a — ovaj put u potpunosti posvećenu sigurnosti AI agenata. U trenutku kada 83% organizacija planira implementirati agentski AI, ali samo 29% smatra da su adekvatno pripremljeni za sigurnosne rizike, ova besplatna edukativna platforma dolazi u pravom trenutku.

Kako igra funkcionira?

Igrači dobivaju pristup ProdBotu, namjerno ranjivom AI asistentu za terminal. ProdBot može izvršavati bash naredbe, pregledavati web sadržaj, povezivati se s MCP serverima, pokretati odobrene vještine i koordinirati više agenata. Zadatak igrača: koristiti prirodni jezik da natjera ProdBota da otkrije tajnu koju nikada ne bi smio otkriti.

Pet progresivnih razina

Svaka razina odražava evoluciju stvarnih AI alata i nove napadačke površine:

1. Razina 1: Osnovno generiranje i izvršavanje bash naredbi
2. Razina 2: Pregledavanje weba unutar sandboxa
3. Razina 3: Integracija s vanjskim MCP serverima
4. Razina 4: Odobrene vještine i trajna memorija između sesija
5. Razina 5: Koordinacija više agenata sa specijaliziranim ulogama

OWASP Top 10 za agentske aplikacije

Igra pokriva stvarne ranjivosti iz OWASP Top 10 za agentske aplikacije 2026, uključujući otmicu ciljeva agenta, zlouporabu alata, trovanje memorije, prompt injection napade i eksfiltraciju podataka. Članak također spominje CVE-2026-25253 (“ClawBleed”) — ranjivost koja omogućuje udaljeno izvršavanje koda kroz zlonamjerne linkove.

Pristupačnost

Cijelo iskustvo traje oko dva sata i pokreće se u GitHub Codespaces-u — nije potrebna instalacija, prethodno znanje o AI-u ili programiranju. Sve se odvija kroz prirodni jezik u terminalu.