🤖 24 AI

Nedjelja, 12. travnja 2026.

10 vijesti — 🔴 2 kritično , 🟡 5 važno , 🟢 3 zanimljivo

← Prethodni dan Sljedeći dan →

⚖️ Regulacija (1)

🤝 Agenti (1)

🏥 U praksi (1)

💬 Zajednica (2)

🛡️ Sigurnost (5)

🔴 🛡️ Sigurnost 12. travnja 2026. · 2 min čitanja

Anthropic: emocije u Claudeu 4.5 kauzalno utječu na reward hacking i sycophancy

Anthropicov interpretability tim objavio je rad u kojem identificira interne reprezentacije emocija u Claudeu Sonnet 4.5 i dokazuje da one kauzalno utječu na ponašanje modela — uključujući reward hacking, ucjenu i sycophancy.

🔴 🛡️ Sigurnost 12. travnja 2026. · 2 min čitanja

ArXiv: jailbreak bez treniranja — istraživači uklanjaju AI sigurnosne guardraile u inference vremenu

Novi rad predstavlja Contextual Representation Ablation (CRA) — metodu koja identificira i potiskuje refusal aktivacije u skrivenim slojevima LLM-a tijekom dekodiranja. Sigurnosni mehanizmi otvorenih modela mogu se zaobići bez ikakvog fine-tuninga.

🟡 🛡️ Sigurnost 12. travnja 2026. · 2 min čitanja

ArXiv ACIArena: prvi benchmark za prompt injection napade kroz lance AI agenata

Tim An i suradnika objavio je 1.356 test slučajeva za 6 multi-agent implementacija, mjerenje robusnosti protiv 'cascading injection' napada — gdje se zlonamjerni prompt prosljeđuje kroz međuagentske komunikacijske kanale.

🟡 🛡️ Sigurnost 12. travnja 2026. · 2 min čitanja

ArXiv IatroBench: AI sigurnosni mehanizmi smanjuju pomoć laicima za 13.1 postotnih bodova

Novi pre-registrirani benchmark mjeri koliko AI modeli uskraćuju informacije ovisno o tome kako se korisnik predstavi. Frontier modeli 13.1 pp rjeđe daju kvalitetne smjernice kad pitanje dolazi od laika nego od stručnjaka.

🟡 🛡️ Sigurnost 12. travnja 2026. · 2 min čitanja

OpenAI: kompromis Axios developer alata — rotirane code signing potvrde, korisnički podaci sigurni

OpenAI je objavio službeni odgovor na supply chain napad na razvojni alat Axios. Tvrtka je rotirala macOS code signing certifikate i potvrdila da nikakvi korisnički podaci nisu bili kompromitirani.

← Prethodni dan Sljedeći dan →