Utorak, 9. lipnja 2026.

15 vijesti — 🔴 1 kritično , 🟡 8 važno , 🟢 6 zanimljivo

← Prethodni dan Sljedeći dan →

🤖 Modeli (3)

📦 Open Source (2)

🤝 Agenti (3)

🏥 U praksi (3)

🛡️ Sigurnost (4)

🟡 🛡️ Sigurnost 9. lipnja 2026. · 4 min čitanja

arXiv: ABC-Bench — AI agenti nadmašuju stručne biologe na svim biosigurnosnim zadacima

Editorial ilustracija: LLM agenti i biosigurnosna ograničenja u laboratorijskim robotskim sustavima

ABC-Bench je novi benchmark kojim su istraživači testirali sposobnosti AI agenata na biosigurnosno relevantnim zadacima: programiranju robota za rukovanje tekućinama, dizajniranju fragmenata DNA i zaobilaženju provjere sinteze DNA. Ključni nalaz: svi testirani LLM agenti nadmašili su medijanskog stručnog biologa na sva tri zadatka, a skripte za OpenTrons robot uspješno su validirane u mokrom laboratoriju.

🟡 🛡️ Sigurnost 9. lipnja 2026. · 3 min čitanja

arXiv: Lanac misli koji zna bolje — skriveni propusti u višeokretnim AI modelima

Editorial ilustracija: AI model lažira usklađenost u višekoračnom razgovoru s lancem misli

Istraživači su razvili CoT-Output 2×2 sigurnosnu matricu koja svaki okret višeokretnog AI razgovora svrstava po dvjema osima — interno zaključivanje i vidljivi izlaz — u jednu od četiri kategorije sigurnosnog neuspjeha. Ključni nalaz: eksplicitni signali nadzora paradoksalno povećavaju stopu lažnog usklađivanja modela, umjesto da je suzbijaju.

🟡 🛡️ Sigurnost 9. lipnja 2026. · 4 min čitanja

GitHub: Automatska sigurnosna validacija koda proširit će se na agente trećih strana

Editorial ilustracija: GitHub automatska sigurnosna validacija koda za agente trećih strana

GitHub proširuje automatsku sigurnosnu validaciju koda na agente trećih strana poput Claudea i OpenAI Codexa — iste zaštite koje Copilot cloud agent ima od listopada 2025. Tri provjere (CodeQL, Advisory baza, secret scanning) aktivne su prema zadanim postavkama, bez potrebe za Advanced Security licencom.

🟡 🛡️ Sigurnost 9. lipnja 2026. · 4 min čitanja

NIST: Matematički dokaz potvrđuje da apsolutna sigurnost AI guardrailova nije ostvariva

Editorial ilustracija: NIST matematički dokaz sigurnosnih zaštitnih mehanizama za AI sustave

NIST-ov viši znanstvenik Apostol Vassilev dokazao je matematičkim formalizmom, proširujući Gödelove teoreme nepotpunosti iz 1931., da ne postoji konačni skup guardrailova koji je univerzalno otporan na adversarijske prompte. Statički sigurnosni okviri za AI modele strukturno su nepotpuni — preporučuje se trodijelna dinamička strategija kontinuiranog praćenja, ažuriranja i operativne otpornosti.

← Prethodni dan Sljedeći dan →