⚖️ Regulacija

25 vijesti

🔴 ⚖️ Regulacija 22. svibnja 2026. · 3 min čitanja

UK AI Safety Institute: Nadzor nad naprednim AI sustavima postaje sve teži — 20+ putanja degradacije identificirano

UK AI Safety Institute (AISI) je 21. svibnja 2026. objavio izvještaj koji analizira budućnost nadzora nad naprednim AI sustavima na temelju 25 ekspertnih intervjua iz industrije, vlada i akademije. Glavni nalaz: postojeći nadzor počiva na temeljima koji će vjerojatno erodirati. Identificirano je 20+ različitih putanja degradacije nadzornih mehanizama, s posebnim naglaskom na latentno reasoning, capability masking, vanjske AI akcije i AI-to-AI komunikaciju.

🔴 ⚖️ Regulacija 21. svibnja 2026. · 2 min čitanja

EU AI Office: nacrt smjernica za klasifikaciju visokorizičnih AI sustava

Europska komisija je 13. svibnja 2026. otvorila ciljanu javnu konzultaciju o nacrtu smjernica za klasifikaciju AI sustava kao visokorizičnih prema EU AI Aktu. Konzultacija se zatvara 22. svibnja u 18 sati po srednjoeuropskom vremenu, a smjernice će izravno odrediti koje će organizacije u zdravstvu, obrazovanju, kritičnoj infrastrukturi i HR procesima morati ispuniti najstrože regulatorne zahtjeve.

🟡 ⚖️ Regulacija 20. svibnja 2026. · 2 min čitanja

Google DeepMind i Singapur: Nacionalno partnerstvo za AI u zdravstvu, obrazovanju i okolišu

Google DeepMind potpisao je nacionalno AI partnerstvo sa singapurskom vladom koje pokriva zdravstvo, obrazovanje i održivost. Do 2040. AI bi mogao singapurskom gospodarstvu donijeti dodatnih 2,5 milijardi dolara kroz ubrzani R&D.

🟡 ⚖️ Regulacija 20. svibnja 2026. · 2 min čitanja

OpenAI: Nova faza programa AI obrazovanja za države

OpenAI ulazi u drugu fazu inicijative Education for Countries — proširuje partnerstva s vladama, uvodi program OpenAI Luminaries za nastavnike i nudi certifikate kroz OpenAI Academy. Cilj je sustavna integracija AI alata u nacionalne obrazovne sustave uz mjerenje stvarnog učinka.

🟢 ⚖️ Regulacija 20. svibnja 2026. · 2 min čitanja

OECD: EU uvodi AI u strateški važne sektore — što to znači za građane?

OECD.AI i EU AI Office dokumentirali su kako Europa raspoređuje AI u četiri strateška sektora: poljoprivredu, zdravstvo, industriju i mobilnost. Projekti poput Robs4Crops, European Cancer Imaging Initiative i AI4Cities već su u tijeku, no fragmentacija podataka i manjak digitalnih vještina koče širu primjenu.

🟡 ⚖️ Regulacija 19. svibnja 2026. · 2 min čitanja

EU AI Office: Javna konzultacija o klasifikaciji visokoризičnih AI sustava — rok 23. lipnja 2026.

Europska komisija otvorila je javnu konzultaciju o nacrtu smjernica koje definiraju kada AI sustav potpada pod "visokorizičnu" kategoriju AI Akta. Zainteresirane strane — od razvojnih inženjera do civilnog društva — mogu slati povratne informacije do 23. lipnja 2026. u 22:00 CET.

🟢 ⚖️ Regulacija 16. svibnja 2026. · 3 min čitanja

UK AISI: autonomne cyber sposobnosti AI modela udvostručuju se svakih 4,7 mjeseci — Claude Mythos i GPT-5.5 prvi rješavaju cyber ranges

How fast is autonomous AI cyber capability advancing? je novi UK AI Safety Institute (AISI) izvještaj objavljen 13. svibnja 2026. Mjerenjem cyber time horizons benchmark-a (2,5M token budget, 80 % success threshold), AISI utvrdio da se dužina cyber zadataka koje AI modeli autonomno rješavaju udvostručuje svakih 4,7 mjeseci. Claude Mythos Preview prvi je model koji je riješio oba cyber ranges (The Last Ones 60 %, Cooling Tower 30 %); GPT-5.5 riješio The Last Ones 30 %.

🟡 ⚖️ Regulacija 15. svibnja 2026. · 2 min čitanja

Anthropic Research: 2028 — dva scenarija geopolitičke AI dominacije i preporuke za zatvaranje smuggling loopholesa

Anthropic Research 2028 AI Leadership scenarios je novi policy paper objavljen 14. svibnja 2026. koji opisuje dva geopolitička scenarija za AI dominaciju do 2028. Scenarij 1: SAD demokracije zadržavaju 12-24 mjeseca prednost kroz export kontrole i model defense. Scenarij 2: Kina dosegne paritet kroz distillation attacks i $2,5B Supermicro-style chip smuggling. Anthropic preporučuje zatvaranje loopholesa, defensive legislation i championing američkog AI exporta.

🟡 ⚖️ Regulacija 13. svibnja 2026. · 2 min čitanja

AWS: Fine-Tuning FLOPs Meter za SageMaker automatizira EU AI Act compliance threshold tracking

Fine-Tuning FLOPs Meter toolkit je nova AWS SageMaker AI ekstenzija objavljena 12. svibnja 2026. koja automatski prati compute thresholde Europskog AI Acta (3,3×10²² FLOPs, 3,3×10²⁴ za systemic risk) tijekom fine-tuninga LLM-ova. Aktivira se jednim flag-om compute_flops=true u recipe YAML-u i automatski generira audit dokumentaciju u S3 i DynamoDB.

🔴 ⚖️ Regulacija 8. svibnja 2026. · 2 min čitanja

EU AI Office: Komisija otvara konzultaciju o nacrtu smjernica za transparentnost AI Acta

Europska komisija objavila je nacrt smjernica o obvezama transparentnosti iz AI Acta. Javna konzultacija traje do 3. lipnja 2026., a obveze počinju 2. kolovoza 2026. Pružatelji moraju AI sadržaj označavati strojno čitljivim markerima i obavijestiti korisnike o interakciji s AI sustavima.

🔴 ⚖️ Regulacija 7. svibnja 2026. · 2 min čitanja

EU AI Office: Politički sporazum o pojednostavljenju AI Act-a i zabrani nudification aplikacija

Europska komisija, Parlament i Vijeće postigli su politički sporazum o Digital Omnibus paketu koji pojednostavljuje AI Act i uvodi zabranu nudification aplikacija. Visokorizični AI sustavi primjenjivat će se od 02.12.2027., a AI integriran u proizvode od 02.08.2028.

🟡 ⚖️ Regulacija 6. svibnja 2026. · 2 min čitanja

arXiv:2605.04039: Sigurnost i točnost kliničkih LLM-ova slijede različite zakone skaliranja

Novi rad pokazuje da sigurnost kliničkih LLM-ova ne slijedi iste zakone skaliranja kao točnost — čišći dokazi u RAG-u podižu točnost s 73,5% na 94,1%, a smanjuju visokorizične greške s 12% na 2,6% više od povećanja modela.

🟡 ⚖️ Regulacija 6. svibnja 2026. · 2 min čitanja

UK AISI: novi MoU s Microsoftom za frontier-AI sigurnost u 3 područja

UK-ov AI Security Institute objavio je 5. svibnja partnerstvo s Microsoftom oko frontier-AI sigurnosti. Suradnja pokriva tri istraživačka područja: evaluaciju visokorizičnih sposobnosti, testiranje zaštita i istraživanje društvene otpornosti na konverzacijski AI.

🔴 ⚖️ Regulacija 5. svibnja 2026. · 2 min čitanja

NIST CAISI proširio frontier AI national security testiranje na Google DeepMind, Microsoft i xAI

NIST Center for AI Standards and Innovation (CAISI) sklopio je 5. svibnja 2026. proširene sporazume s Google DeepMindom, Microsoftom i xAI-jem za pre-deployment i post-deployment testiranje frontier modela. CAISI je dosad proveo više od 40 evaluacija, uključujući neobjavljene state-of-the-art modele, a testiranja se rutinski izvode u klasificiranim okruženjima s uklonjenim safeguardima.

🟡 ⚖️ Regulacija 28. travnja 2026. · 4 min čitanja

LangChain i LangSmith ciljaju EU AI Act: alati za sukladnost prema člancima 9, 10, 12-15 i 72 do roka 2. kolovoza 2026.

LangChain je objavio kako LangSmith i LangChain OSS pokrivaju ključne članke EU AI Acta — od risk managementa (čl. 9) do post-market monitoringa (čl. 72). Rok za visokorizične AI sustave je 2. kolovoza 2026., a kazne dosežu 15 milijuna eura ili 3% globalnog godišnjeg prihoda.

🟡 ⚖️ Regulacija 28. travnja 2026. · 3 min čitanja

OpenAI dobio FedRAMP Moderate autorizaciju: ChatGPT Enterprise i API otvoreni za sigurno usvajanje u američkim federalnim agencijama

OpenAI je 27. travnja 2026. objavio FedRAMP Moderate autorizaciju za ChatGPT Enterprise i OpenAI API. Time se otvara mogućnost sigurnog usvajanja generativne AI tehnologije u američkim federalnim agencijama, na razini compliance-a koja pokriva osjetljive ali ne-klasificirane podatke.

🟡 ⚖️ Regulacija 27. travnja 2026. · 3 min čitanja

arXiv:2604.21571 'Separable Expert': arhitektura za LLM personalizaciju koja omogućuje GDPR pravo na zaborav bez retreniranja

Chris Schneider, Philipp Schoenegger i Ben Bariach objavili su 23. travnja 2026. paper 'Separable Expert Architecture' koji rješava jedan od najvećih GDPR problema personaliziranih LLM-ova: kako obrisati podatke pojedinačnog korisnika bez retreniranja cijelog modela. Trolayer arhitektura (statična baza, composable LoRA adapteri, per-user proxy artefakti) pretvara unlearning u deterministički delete operaciju. Evaluirano na Phi-3.5-mini i Llama-3.1-8B.

🟢 ⚖️ Regulacija 27. travnja 2026. · 4 min čitanja

Google DeepMind i Južna Koreja osnivaju AI Campus u Seulu deset godina nakon AlphaGo meča

Google DeepMind i korejsko Ministarstvo znanosti i ICT-a (MSIT) objavili su 27. travnja 2026. partnerstvo za ubrzavanje znanstvenih otkrića i AI inovacija. Suradnja uključuje osnivanje AI Campusa u Seulu, pristup naprednijim AI alatima poput AlphaFolda i AlphaGenomea za akademske institucije te suradnju s korejskim AI Safety Institutom na pitanjima sigurnosti.

🟡 ⚖️ Regulacija 22. travnja 2026. · 3 min čitanja

EU otvara natječaj za AI dezinformacije i deepfake utjecajne kampanje

Europska komisija otvorila je poziv DIGITAL-2026-BESTUSE-AWARENESS vrijedan 6 milijuna eura za izradu zajedničkog istraživačkog okvira protiv manipulativnog AI sadržaja. Natječaj isporučuje Europski demokratski štit najavljen u studenom 2025. i traži prijave do 1. listopada 2026.

🟡 ⚖️ Regulacija 21. travnja 2026. · 3 min čitanja

Europska komisija izdvaja 63,2 milijuna eura za AI u zdravstvu i sigurnosti djece kroz sedam poziva Digital Europe programa

Europska komisija otvorila je sedam poziva ukupne vrijednosti 63,2 milijuna eura kroz Digital Europe Programme. Sredstva su namijenjena AI inovacijama u zdravstvu (rak, srčane bolesti), online sigurnosti djece i alatima za regulatore, a dio su šireg AI Continent Action Plana.

🟡 ⚖️ Regulacija 16. travnja 2026. · 2 min čitanja

ArXiv: Katalog 195 AI safety benchmarka otkriva fragmentaciju i slabe standarde mjerenja

AISafetyBenchExplorer je strukturirani katalog koji dokumentira 195 AI safety benchmarka objavljenih između 2018. i 2026. godine. Istraživanje otkriva alarmantnu fragmentaciju u polju — pojmovi poput 'accuracy' i 'safety score' skrivaju potpuno različite metodologije. Od 195 benchmarka, čak 165 evaluira samo engleski jezik, a 137 ima neaktivne GitHub repozitorije, ukazujući na nedostatak održavanja nakon objave.

🟢 ⚖️ Regulacija 15. travnja 2026. · 1 min čitanja

OECD: Velika Britanija postavlja globalni standard za transparentnost vladinih algoritama

OECD analizira britanski Algorithmic Transparency Recording Standard (ATRS) koji je od 2025. obavezan za središnju vladu. Do ožujka 2025. objavljeno je 125 zapisa o korištenju algoritama. Estonija je već preuzela standard, a OECD ga naziva 'svjetski vodećim'.

🟡 ⚖️ Regulacija 14. travnja 2026. · 2 min čitanja

Anthropic: LTBT Trust sada ima većinu u upravnom odboru — imenovan bivši CEO Novartisa

Anthropic je objavio imenovanje Vasa Narasimhana, CEO-a Novartisa, u upravni odbor kroz Long-Term Benefit Trust. LTBT-ovi direktori sada čine većinu odbora, čime se jača nadzor nad sigurnosnom misijom kompanije.

🟡 ⚖️ Regulacija 12. travnja 2026. · 2 min čitanja

ArXiv: matematički dokaz nemogućnosti potpune odgovornosti u ljudsko-AI kolektivima

Istraživač Tibebu dokazuje formalan impossibility rezultat: iznad određenog praga autonomije AI agenata, ne mogu istovremeno vrijediti sva četiri svojstva odgovornosti u sustavima koji kombiniraju ljude i AI.

🔴 ⚖️ Regulacija 10. travnja 2026. · 2 min čitanja

EU AI Office objavio prvi godišnji izvještaj: 19 AI tvornica i milijarda eura za primjenu AI-a

Europska komisija obilježila je godinu dana od pokretanja AI Continent Action Plana objavom rezultata: 19 AI tvornica deployano je preko europskih superračunala, 13 regionalnih AI Factory antena pruža lokalni pristup, a 1 milijardu eura osigurano je za Apply AI Strategy inicijative.