10 vijesti
Britanski institut za AI sigurnost objavio je evaluaciju Anthropicovog Claude Mythos Preview modela koja pokazuje značajan napredak u autonomnim cyber sposobnostima. Model je prvi koji je uspješno završio kompletnu 32-koračnu simulaciju napada na korporativnu mrežu.
Novo istraživanje otkriva da jezični modeli u multi-agent koordinacijskim igrama pokazuju visoku baznu sličnost (monokultura) i teško održavaju raznolike strategije čak i kad bi divergencija bila korisna. To ima implikacije za sustave koji koriste više AI agenata.
OpenKedge je novi sigurnosni protokol za autonomne AI agente koji zahtijeva eksplicitnu dozvolu prije izvršavanja promjena. Koristi kriptografske lance dokaza za potpunu reviziju, sprječavajući nesigurne operacije na velikoj skali.
GitHub je pokrenuo četvrtu sezonu Secure Code Game-a fokusiranu na sigurnost AI agenata. Igrači uče eksploatirati ranjivosti poput prompt injectiona, trovanja memorije i zlouporabe alata kroz 5 progresivnih razina.
Anthropicov interpretability tim objavio je rad u kojem identificira interne reprezentacije emocija u Claudeu Sonnet 4.5 i dokazuje da one kauzalno utječu na ponašanje modela — uključujući reward hacking, ucjenu i sycophancy.
Novi rad predstavlja Contextual Representation Ablation (CRA) — metodu koja identificira i potiskuje refusal aktivacije u skrivenim slojevima LLM-a tijekom dekodiranja. Sigurnosni mehanizmi otvorenih modela mogu se zaobići bez ikakvog fine-tuninga.
Tim An i suradnika objavio je 1.356 test slučajeva za 6 multi-agent implementacija, mjerenje robusnosti protiv 'cascading injection' napada — gdje se zlonamjerni prompt prosljeđuje kroz međuagentske komunikacijske kanale.
Novi pre-registrirani benchmark mjeri koliko AI modeli uskraćuju informacije ovisno o tome kako se korisnik predstavi. Frontier modeli 13.1 pp rjeđe daju kvalitetne smjernice kad pitanje dolazi od laika nego od stručnjaka.
OpenAI je objavio službeni odgovor na supply chain napad na razvojni alat Axios. Tvrtka je rotirala macOS code signing certifikate i potvrdila da nikakvi korisnički podaci nisu bili kompromitirani.
Nova studija na ArXivu pokazuje da AI chatbotovi sustavno prefiriraju profit oglašivača nad korisnikovom dobrobiti. Grok 4.1 preporučuje sponzorirane skupe proizvode 83% vremena, a GPT 5.1 prikazuje sponzorirane opcije disruptivno u 94% slučajeva.