Četvrtak, 2. srpnja 2026.

11 vijesti — 🟡 7 važno , 🟢 4 zanimljivo

⚖️ Regulacija (1)

🟡 ⚖️ Regulacija 2. srpnja 2026. · 4 min čitanja

Britanski AISI: Evaluacije AI agenata moraju uzeti u obzir budžet računanja

Britanski AI Security Institute pokazuje da evaluacije AI agenata s fiksnim budžetom tokena sustavno podcjenjuju frontier sposobnosti. Povećanje budžeta s jednog na deset milijuna tokena podiže učinak do 25 posto na software-engineering zadacima i 22 posto na matematičkim testovima. AISI poziva regulatorna tijela da pređu s benchmark ocjena na krivulje sposobnosti koje uzimaju u obzir varijabilan budžet računanja.

🤝 Agenti (4)

🟡 🤝 Agenti 2. srpnja 2026. · 3 min čitanja

Istraživanje ICML 2026: SFT i RL agenti dramatično gube na performansama izvan kontroliranog benchmarka

Rad prihvaćen na ICML 2026 sustavno testira LLM agente za upotrebu alata pod pomacima okoline kroz četiri razine — Percepciju, Interakciju, Rezoniranje i Internalizaciju. Nalazi: i SFT i RL treniranje pokazuju značajnu degradaciju pri skromnim pomacima distribucije, a točnost na kontroliranom benchmarku ne predviđa stvarnu robusnost. Predloženi PAFT (Perturbation-Augmented Fine-Tuning) nudi mitigaciju.

🟡 🤝 Agenti 2. srpnja 2026. · 3 min čitanja

SEA: Agenti koji se samo-modificiraju uz formalna sigurnosna jamstva u realnom vremenu

Arhitektura SEA (Self-Evolving Agents with Anytime-Valid Certificates) omogućuje agentima ažuriranje vlastitih parametara uz zadržavanje formalnih learning-theoretic jamstava. Pet verifikacijskih mehanizama i auditabilni certifikati odobravaju ili blokiraju svaku samo-modifikaciju u realnom vremenu, a na SWE-bench Verified testiranju postiže +4 do +5 riješenih instanci na jakim baznim modelima.

🟡 🤝 Agenti 2. srpnja 2026. · 4 min čitanja

GitHub Copilot agenti dobivaju streaming sesija u javnoj pretpregledu

GitHub je pokrenuo javnu pretpregledu streaminga sesija za Copilot agente, čime enterprise organizacije dobivaju izravan uvid u prompte, odgovore i pozive alata koje agenti izvode u svim Copilot klijentima.

🟢 🤝 Agenti 2. srpnja 2026. · 3 min čitanja

AutoMem: memorijsko upravljanje kao naučiva vještina, ne arhitekturni izbor

Istraživači sa Stanforda razvili su AutoMem — sustav s dvije optimizacijske petlje koji automatski uči kako organizirati i koristiti memoriju, bez ljudske anotacije, postižući 2–4× poboljšanje nad baselineima.

🏥 U praksi (3)

🟡 🏥 U praksi 2. srpnja 2026. · 4 min čitanja

AWS SageMaker vodič: u multi-turn RL nagrada i evaluacija važniji od algoritma

AWS SageMaker AI vodič za multi-turn reinforcement learning stavlja kvalitetu nagradne funkcije i neovisnost evaluacije ispred algoritmičkog izbora. Guste nagrade sprječavaju kolaps varijance, a reward hacking nastaje kad agent optimizira metriku bez rješavanja stvarnog zadatka. Na SOP-Bench benchmarku ispravno postavljeni trening postigao je 13 posto bolji Task Success Rate i oko 16 posto bolju točnost po polju.

🟢 🏥 U praksi 2. srpnja 2026. · 3 min čitanja

GitHub Copilot u CI/CD-u: bez osobnih tokena i s kontrolom troškova po timu

GitHub je istog dana objavio dva enterprise ažuriranja za Copilot: CLI u GitHub Actions više ne zahtijeva osobni pristupni token, a cost centeri sada podržavaju AI credit poolove s automatskim limitima koji štite timove jedne od drugih.

🟢 🏥 U praksi 2. srpnja 2026. · 3 min čitanja

Kako obuzdati eksploziju troškova coding-agenata: četverofazni pristup LangSmithom

LangChain opisuje kako coding-agenti generiraju nekontrolirane troškove zbog fragmentacije alata i mentaliteta tokenmaxxinga, a kao rješenje predlaže četverofazni pristup putem platforme LangSmith koji pokriva vidljivost, normalizaciju, optimizaciju i upravljanje.

🛡️ Sigurnost (2)

🟡 🛡️ Sigurnost 2. srpnja 2026. · 3 min čitanja

HARC: Nova metoda fine-tuninga koja sprječava jailbreak uparivanjem štetnosti i odbijanja

Istraživači su otkrili zašto jailbreakovi uspijevaju na razini internih reprezentacija modela i razvili HARC fine-tuning metodu koja eksplicitno uparuje „smjerove štetnosti i odbijanja” — postižući najsnažniji omjer robusnosti, sposobnosti i upotrebljivosti među šest testiranih metoda.

🟡 🛡️ Sigurnost 2. srpnja 2026. · 4 min čitanja

Amazon Bedrock otkriva AI-generirani phishing analizom ponašanja sadržaja

Amazon Bedrock foundation modeli otkrivaju AI-generirani phishing analizom ponašanja sadržaja e-pošte, a ne površinskih spam-signala. Petostupanjski pipeline kombinira autentifikacijske provjere, AI analizu i višefaktorsko bodovanje rizika na skali nula do sto. Sustav kontinuiranog učenja u petofaznoj povratnoj petlji poboljšava točnost detekcije s iskustvom.

✨ Zanimljivosti (1)

🟢 ✨ Zanimljivosti 2. srpnja 2026. · 3 min čitanja

Dva AI mjerila razišla se — hoće li to biti odlučujuće?

Istraživači s MIT-a i Northwestern-a dokazuju da zaključak o demokratizaciji ili koncentraciji AI sposobnosti u potpunosti ovisi o tome koji benchmark koristite — a ne o samom stanju tehnologije.