UK AISI: novi MoU s Microsoftom za frontier-AI sigurnost u 3 područja

Što je AISI objavio?

UK-ov AI Security Institute (AISI), koji djeluje pod Department for Science, Innovation and Technology, objavio je 5. svibnja 2026. novu suradnju s Microsoftom. Sporazum pokriva tri istraživačka područja vezana uz frontier-AI sigurnost — najmoćnije sustave koji prelaze trenutnu generaciju modela.

Microsoft je istog dana objavio paralelnu izjavu na svom blogu, čime je partnerstvo formalno potvrđeno s obje strane.

Koja tri područja pokriva suradnja?

Sporazum definira jasno omeđen istraživački opseg:

• Evaluacija visokorizičnih sposobnosti — metode za procjenu naprednih sposobnosti AI sustava u rizičnim kontekstima
• Testiranje zaštitnih mjera — vrednovanje protective measures koje frontier sustavi koriste za sprječavanje zlouporabe
• Istraživanje društvene otpornosti — kako konverzacijski AI komunicira s korisnicima u osjetljivim situacijama (mentalno zdravlje, dezinformacije i slično)

Tri područja zajedno pokrivaju i tehnički sloj (model capabilities) i ljudski sloj (krajnji korisnik).

Zašto AISI traži suradnju s industrijom?

U službenoj izjavi AISI navodi: “Kako AI sustavi postaju sve sposobniji, održiva dvosmjerna suradnja između vlade i kompanija koje razvijaju i implementiraju frontier AI ključna je za napredak našeg zajedničkog razumijevanja velikih rizika za javnu sigurnost i nacionalnu sigurnost.”

Drugim riječima, regulator priznaje da bez pristupa pre-release modelima i internim metrikama ne može efektivno procijeniti rizik. Microsoft, kao jedan od četvorice frontier provajdera (uz OpenAI, Anthropic i Google DeepMind), takav pristup može osigurati.

Što ovo znači za frontier-AI sigurnost?

Partnerstvo proširuje AISI mrežu izvan ranijih sporazuma s OpenAI-jem i Anthropicom. Time AISI pokriva tri od četiri vodeća frontier provajdera, što povećava reprezentativnost njihovih evaluacija i smanjuje rizik tržišne pristranosti rezultata.