45 vijesti
OpenAI je formalno objavio skup načela kojima definira uvjete i granice suradnje s vladinim entitetima i organizacijama nacionalne sigurnosti, naglašavajući demokratski nadzor i zaštitu zajednica.
Europska komisija danas je predstavila zajednički Akcijski plan za kibernetičku sigurnost i AI koji gradi na postojećem EU pravnom okviru, koordinira države članice i industriju te adresira AI istovremeno kao vektor napada i kao obrambeni alat.
NVIDIA-ina inicijativa AI Nations pokazuje kako Francuska, Indija i Brazil grade domaće AI kapacitete prema okviru od pet sastojaka nacionalne strategije. Ključna teza: AI data centri danas su suverena infrastruktura jednako kao ceste i električna mreža.
Britanski AI Security Institute pokazuje da evaluacije AI agenata s fiksnim budžetom tokena sustavno podcjenjuju frontier sposobnosti. Povećanje budžeta s jednog na deset milijuna tokena podiže učinak do 25 posto na software-engineering zadacima i 22 posto na matematičkim testovima. AISI poziva regulatorna tijela da pređu s benchmark ocjena na krivulje sposobnosti koje uzimaju u obzir varijabilan budžet računanja.
Mapping Europe's AI Workforce je OpenAI-ev izvještaj koji analizira kako AI tehnologije mogu preoblikovati zanimanja i radna mjesta diljem Europske unije, s naglaskom na prilike za europsku radnu snagu, a ne isključivo na rizike od automatizacije.
Europska komisija izdala je preliminarnu odluku da AWS i Microsoft Azure trebaju biti označeni kao gatekeeperi prema Aktu o digitalnim tržištima (DMA), čime bi oba cloud giganta bila podvrgnuta strogim regulatornim obvezama radi ravnopravnijeg tržišnog natjecanja u EU.
GitHub, Black Forest Labs, Hugging Face i Mozilla formirali su koaliciju koja zahtijeva izmjenu California AI Transparency Acta (SB 942/SB 1000). Sporna odredba prisiljava open-source projekte na revokaciju licenci zbog pogrešaka downstream korisnika, što je nespojivo s modelom perpetualnih licenci.
OpenAI se pridružio Appia Foundationu, novom međunarodnom tijelu koje razvija zajedničke standarde za evaluaciju i sigurnosne prakse naprednog AI-ja. Cilj je globalna suradnja industrije umjesto fragmentiranih nacionalnih okvira, a objava je uslijedila 23. lipnja 2026.
EUROPA je konzorcij koji je Europska komisija 19. lipnja 2026. odabrala kao pobjednika natjecanja Frontier AI Grande Challenge. Predvođen talijanskom tvrtkom Domyn, konzorcij će izgraditi otvoreni europski frontier model s više od 400 milijardi parametara koji podržava svih 24 službena jezika EU-a i bit će javno dostupan tvrtkama, istraživačima i javnim institucijama.
Europska komisija objavila je četvrti godišnji izvještaj o stanju digitalnog desetljeća, koji ocjenjuje napredak EU-a prema digitalnim ciljevima za 2030. kroz infrastrukturu, poslovanje, vještine i javne usluge. Izvještaj prepoznaje AI, poluvodiče, cloud i open source kao stupove europske tehnološke suverenosti, a ključnim izazovom navodi isporuku rezultata u opsegu, brzini i dosljednosti. Prema Eurobarometru, velika većina Europljana digitalnu politiku stavlja na vrh prioriteta EU-a.
CNCF je objavio vodič o arhitektonskim obrascima za digitalnu suverenost cloud-native platformi, jer je EU Data Act u punoj primjeni od 11. siječnja 2025. Regulatori očekuju četiri svojstva: jurisdikcijsku ograničenost, operativnu autonomiju, kriptografsku kontrolu pristupa i prenosivost. Jedan Kubernetes klaster nije dovoljan jer dijeljeni control plane znači dijeljeni rizik; predlaže se obrazac u kojem svaka jurisdikcija dobiva vlastiti control plane (vCluster), uz GitOps deklaraciju granica.
AgentFairBench je prvi benchmark koji mjeri demografsku nejednakost u samim akcijama LLM agenata — ne samo u odgovorima — kroz domene zapošljavanja, kreditiranja i medicinske trijaže. Koristi metrike counterfactual flip rate i action-rate disparity te testira četiri agentska scaffolda. U pilotu od 864 odluke Claude Haiku nije pokazao demografski efekt iznad razine šuma, a rad upozorava da naivna usporedba šest skupina može precijeniti nejednakost otprilike 2,4 puta.
Rad predstavlja Bayesov okvir za reviziju koji pokazuje da jedan konačni snimak ljestvice s 1.000 sustava može odgovarati višestrukim nekompatibilnim povijesnim putanjama, s vremenima konvergencije od 23 do 75 koraka. Oslanjajući se na arhivirane podatke LiveBencha, Open LLM Leaderboarda v2, LMArene, GAIA-e i tau-bencha, autor predlaže 'archive-and-adjudication' protokol za rekonstrukciju povijesti ocjenjivanja i odbacivanje nepotkrijepljenih tvrdnji o frontier modelima.
Anthropic je objavio detaljan prijedlog regulatornog okvira za graničnu AI (frontier AI), uvodeći pragove temeljene na računalnoj snazi i prihodu poduzeća, četiri kategorije katastrofalnih rizika te zahtjeve za nezavisnom evaluacijom i zaštitom modela.
OECD analizira kako umjetna inteligencija može ojačati globalne prehrambene sustave pod pritiskom klime, krhkih lanaca opskrbe i manjka radne snage. Tekst izdvaja tri prepreke — silosirane podatke, slabu dostupnost malim poljoprivrednicima i prepreke skaliranju. Preporuča jaču međunarodnu suradnju kroz OECD i GPAI.
OECD je objavio prvu verziju AI Policy Toolkita, praktičnog i ne-preskriptivnog vodiča koji donositeljima politika pomaže pretvoriti OECD AI principe u konkretnu akciju. Interaktivna platforma s AI-pogonjenom semantičkom pretragom prati cijeli ciklus AI politike, a nastala je kroz ko-kreaciju u više regija uz doprinos Italije, Francuske, Koreje, Japana, UK-a i Europske unije.
OpenAI je pozvao na globalnu akciju za sigurnost mladih u kontekstu umjetne inteligencije. Tvrtka predlaže osnivanje međunarodnog instituta koji bi jačao zaštitne mehanizme, standarde i prilike za mlade, što predstavlja policy prijedlog usmjeren prema regulatorima i partnerima.
OpenAI je objavio zajednički priručnik za vanjske evaluacije AI modela. Dokument opisuje kako neovisni procjenitelji mogu pouzdano mjeriti sposobnosti modela, testirati sigurnosne mehanizme i potvrditi valjanost rezultata za napredne frontier sustave.
Frontier Governance Framework je dokument OpenAI-a objavljen 28. svibnja 2026. koji opisuje kako se njihove prakse za AI safety, sigurnost (security) i upravljanje rizikom usklađuju s nastajućim regulativama Europske unije i savezne države Kalifornije. Cilj je pokazati podudaranje internog upravljanja s vanjskim regulatornim zahtjevima.
Britanski AI Safety Institute (UK AISI) i australski AI Safety Institute potpisali su 25. svibnja 2026. sporazum o suradnji na najboljim praksama AI evaluacije i razmjeni istraživačkih nalaza. Partnerstvo proširuje mrežu međunarodnih AI sigurnosnih institucija i jača koordinirani pristup procjeni rizika naprednih AI sustava.
UK AI Safety Institute (AISI) je 21. svibnja 2026. objavio izvještaj koji analizira budućnost nadzora nad naprednim AI sustavima na temelju 25 ekspertnih intervjua iz industrije, vlada i akademije. Glavni nalaz: postojeći nadzor počiva na temeljima koji će vjerojatno erodirati. Identificirano je 20+ različitih putanja degradacije nadzornih mehanizama, s posebnim naglaskom na latentno reasoning, capability masking, vanjske AI akcije i AI-to-AI komunikaciju.
Europska komisija je 13. svibnja 2026. otvorila ciljanu javnu konzultaciju o nacrtu smjernica za klasifikaciju AI sustava kao visokorizičnih prema EU AI Aktu. Konzultacija se zatvara 22. svibnja u 18 sati po srednjoeuropskom vremenu, a smjernice će izravno odrediti koje će organizacije u zdravstvu, obrazovanju, kritičnoj infrastrukturi i HR procesima morati ispuniti najstrože regulatorne zahtjeve.
Google DeepMind potpisao je nacionalno AI partnerstvo sa singapurskom vladom koje pokriva zdravstvo, obrazovanje i održivost. Do 2040. AI bi mogao singapurskom gospodarstvu donijeti dodatnih 2,5 milijardi dolara kroz ubrzani R&D.
OpenAI ulazi u drugu fazu inicijative Education for Countries — proširuje partnerstva s vladama, uvodi program OpenAI Luminaries za nastavnike i nudi certifikate kroz OpenAI Academy. Cilj je sustavna integracija AI alata u nacionalne obrazovne sustave uz mjerenje stvarnog učinka.
OECD.AI i EU AI Office dokumentirali su kako Europa raspoređuje AI u četiri strateška sektora: poljoprivredu, zdravstvo, industriju i mobilnost. Projekti poput Robs4Crops, European Cancer Imaging Initiative i AI4Cities već su u tijeku, no fragmentacija podataka i manjak digitalnih vještina koče širu primjenu.
Europska komisija otvorila je javnu konzultaciju o nacrtu smjernica koje definiraju kada AI sustav potpada pod "visokorizičnu" kategoriju AI Akta. Zainteresirane strane — od razvojnih inženjera do civilnog društva — mogu slati povratne informacije do 23. lipnja 2026. u 22:00 CET.
How fast is autonomous AI cyber capability advancing? je novi UK AI Safety Institute (AISI) izvještaj objavljen 13. svibnja 2026. Mjerenjem cyber time horizons benchmark-a (2,5M token budget, 80 % success threshold), AISI utvrdio da se dužina cyber zadataka koje AI modeli autonomno rješavaju udvostručuje svakih 4,7 mjeseci. Claude Mythos Preview prvi je model koji je riješio oba cyber ranges (The Last Ones 60 %, Cooling Tower 30 %); GPT-5.5 riješio The Last Ones 30 %.
Anthropic Research 2028 AI Leadership scenarios je novi policy paper objavljen 14. svibnja 2026. koji opisuje dva geopolitička scenarija za AI dominaciju do 2028. Scenarij 1: SAD demokracije zadržavaju 12-24 mjeseca prednost kroz export kontrole i model defense. Scenarij 2: Kina dosegne paritet kroz distillation attacks i $2,5B Supermicro-style chip smuggling. Anthropic preporučuje zatvaranje loopholesa, defensive legislation i championing američkog AI exporta.
Fine-Tuning FLOPs Meter toolkit je nova AWS SageMaker AI ekstenzija objavljena 12. svibnja 2026. koja automatski prati compute thresholde Europskog AI Acta (3,3×10²² FLOPs, 3,3×10²⁴ za systemic risk) tijekom fine-tuninga LLM-ova. Aktivira se jednim flag-om compute_flops=true u recipe YAML-u i automatski generira audit dokumentaciju u S3 i DynamoDB.
Europska komisija objavila je nacrt smjernica o obvezama transparentnosti iz AI Acta. Javna konzultacija traje do 3. lipnja 2026., a obveze počinju 2. kolovoza 2026. Pružatelji moraju AI sadržaj označavati strojno čitljivim markerima i obavijestiti korisnike o interakciji s AI sustavima.
Europska komisija, Parlament i Vijeće postigli su politički sporazum o Digital Omnibus paketu koji pojednostavljuje AI Act i uvodi zabranu nudification aplikacija. Visokorizični AI sustavi primjenjivat će se od 02.12.2027., a AI integriran u proizvode od 02.08.2028.
Novi rad pokazuje da sigurnost kliničkih LLM-ova ne slijedi iste zakone skaliranja kao točnost — čišći dokazi u RAG-u podižu točnost s 73,5% na 94,1%, a smanjuju visokorizične greške s 12% na 2,6% više od povećanja modela.
UK-ov AI Security Institute objavio je 5. svibnja partnerstvo s Microsoftom oko frontier-AI sigurnosti. Suradnja pokriva tri istraživačka područja: evaluaciju visokorizičnih sposobnosti, testiranje zaštita i istraživanje društvene otpornosti na konverzacijski AI.
NIST Center for AI Standards and Innovation (CAISI) sklopio je 5. svibnja 2026. proširene sporazume s Google DeepMindom, Microsoftom i xAI-jem za pre-deployment i post-deployment testiranje frontier modela. CAISI je dosad proveo više od 40 evaluacija, uključujući neobjavljene state-of-the-art modele, a testiranja se rutinski izvode u klasificiranim okruženjima s uklonjenim safeguardima.
LangChain je objavio kako LangSmith i LangChain OSS pokrivaju ključne članke EU AI Acta — od risk managementa (čl. 9) do post-market monitoringa (čl. 72). Rok za visokorizične AI sustave je 2. kolovoza 2026., a kazne dosežu 15 milijuna eura ili 3% globalnog godišnjeg prihoda.
OpenAI je 27. travnja 2026. objavio FedRAMP Moderate autorizaciju za ChatGPT Enterprise i OpenAI API. Time se otvara mogućnost sigurnog usvajanja generativne AI tehnologije u američkim federalnim agencijama, na razini compliance-a koja pokriva osjetljive ali ne-klasificirane podatke.
Chris Schneider, Philipp Schoenegger i Ben Bariach objavili su 23. travnja 2026. paper 'Separable Expert Architecture' koji rješava jedan od najvećih GDPR problema personaliziranih LLM-ova: kako obrisati podatke pojedinačnog korisnika bez retreniranja cijelog modela. Trolayer arhitektura (statična baza, composable LoRA adapteri, per-user proxy artefakti) pretvara unlearning u deterministički delete operaciju. Evaluirano na Phi-3.5-mini i Llama-3.1-8B.
Google DeepMind i korejsko Ministarstvo znanosti i ICT-a (MSIT) objavili su 27. travnja 2026. partnerstvo za ubrzavanje znanstvenih otkrića i AI inovacija. Suradnja uključuje osnivanje AI Campusa u Seulu, pristup naprednijim AI alatima poput AlphaFolda i AlphaGenomea za akademske institucije te suradnju s korejskim AI Safety Institutom na pitanjima sigurnosti.
Europska komisija otvorila je poziv DIGITAL-2026-BESTUSE-AWARENESS vrijedan 6 milijuna eura za izradu zajedničkog istraživačkog okvira protiv manipulativnog AI sadržaja. Natječaj isporučuje Europski demokratski štit najavljen u studenom 2025. i traži prijave do 1. listopada 2026.
Europska komisija otvorila je sedam poziva ukupne vrijednosti 63,2 milijuna eura kroz Digital Europe Programme. Sredstva su namijenjena AI inovacijama u zdravstvu (rak, srčane bolesti), online sigurnosti djece i alatima za regulatore, a dio su šireg AI Continent Action Plana.
AISafetyBenchExplorer je strukturirani katalog koji dokumentira 195 AI safety benchmarka objavljenih između 2018. i 2026. godine. Istraživanje otkriva alarmantnu fragmentaciju u polju — pojmovi poput 'accuracy' i 'safety score' skrivaju potpuno različite metodologije. Od 195 benchmarka, čak 165 evaluira samo engleski jezik, a 137 ima neaktivne GitHub repozitorije, ukazujući na nedostatak održavanja nakon objave.
OECD analizira britanski Algorithmic Transparency Recording Standard (ATRS) koji je od 2025. obavezan za središnju vladu. Do ožujka 2025. objavljeno je 125 zapisa o korištenju algoritama. Estonija je već preuzela standard, a OECD ga naziva 'svjetski vodećim'.
Anthropic je objavio imenovanje Vasa Narasimhana, CEO-a Novartisa, u upravni odbor kroz Long-Term Benefit Trust. LTBT-ovi direktori sada čine većinu odbora, čime se jača nadzor nad sigurnosnom misijom kompanije.
Istraživač Tibebu dokazuje formalan impossibility rezultat: iznad određenog praga autonomije AI agenata, ne mogu istovremeno vrijediti sva četiri svojstva odgovornosti u sustavima koji kombiniraju ljude i AI.
Europska komisija obilježila je godinu dana od pokretanja AI Continent Action Plana objavom rezultata: 19 AI tvornica deployano je preko europskih superračunala, 13 regionalnih AI Factory antena pruža lokalni pristup, a 1 milijardu eura osigurano je za Apply AI Strategy inicijative.