83 vijesti
PyTorch tim iz Mete objavio je tehnike za fuziranje normalizacijskih operacija izravno u GEMM i attention kernele, s ciljem uklanjanja njihova računalnog troška — 'free normalization'. Kod je dostupan na GitHubu kroz knjižnicu kernela, a izravna posljedica je brže treniranje i inference modela s čestim Layer Norm i RMS Norm operacijama.
Ollama je platforma za lokalno pokretanje otvorenih AI modela koja je objavila 88 milijuna dolara financiranja uz investitore poput Benchmarka, Theory Venturesa i Solomona Hykesa, osnivača Dockera. Platformu koristi 8,9 milijuna developera i 85% Fortune 500 kompanija, a cloud servis udvostručuje volumen tokena svaki mjesec.
PyTorch 2.13 izlazi s 3.328 commitova od 526 suradnika. Ključne novosti: nn.LinearCrossEntropyLoss reže vršni GPU memorijski otisak do 4× za LLM treniranje, FlexAttention na Apple Siliconom postiže do 12,3× ubrzanje, a novi torchcomms backend modernizira distribuirani trening.
CNCF TAG Infrastructure objavio je white paper koji mapira uska grla pohrane podataka u cloud-native AI okruženjima, razlikujući zahtjeve faza treniranja, inferencije i agentskog AI-ja, te daje arhitekturne smjernice za Kubernetes AI/ML deploymente.
IBM i Red Hat lansirali su Lightwell Network u općoj dostupnosti s katalogom od 6.500+ digitalno potpisanih saniranih ovisnosti u Javi i Pythonu, te Lightwell Clearinghouse Premier za koordinaciju patch embarga u financijskim uslugama, poduprt obvezom od 5 milijardi dolara za open-source sigurnost.
Tencent Hunyuan AI Infra tim i vLLM tim zajednički su upstreamali HPC_ATTN attention backend i hpc MoE backend koji smanjuju TTFT za 24% i TPOT za 17% na konfiguraciji 8× NVIDIA H20, bez potrebe za forkanjem vLLM koda.
Moonshot AI-jev Kimi K2.7 Code dostupan je u GitHub Copilotu kao prvi open-weight model u model pickeru, hostan na Microsoft Azureu. Dostupan je na Pro, Pro+ i Max planovima uz usage-based billing, s planiranim proširenjem na Business i Enterprise.
LangChain je objavio OpenWiki, open-source CLI alat koji automatski generira i ažurira dokumentacijske wikije za kod-repozitorije. Cilj je dati kodnim agentima strukturiran kontekst o repozitoriju bez napuhavanja instrukcijskih datoteka poput AGENTS.md ili CLAUDE.md. Alat je građen na DeepAgents okviru i podržava više LLM providera.
RadixArk objavljuje Miles, open-source reinforcement learning okvir koji spaja SGLang, Megatron-LM, Ray i PyTorch u jedinstven produkcijski-testirani stack za post-training velikih jezičnih modela na Hopper i Blackwell GPU-ima.
CNCF sandbox projekt Kepler potpuno je prepisan: nova arhitektura zamjenjuje eBPF pristup čitanjem standardnih /proc i /sys puteva, eliminira višekilovatne skokove mjerenja i svodi jaz atribucije snage procesa na razinu milivata.
LF AI & Data Foundation objavila je ONNX v1.22.0 s native attention operatorima za transformerske arhitekture i LLM-ove, WebAssembly podrškom za pregled modela u pregledniku te SLSA Level 2 kriptografskim atestacijama. Doprinijela su 27 suradnika, od kojih 16 po prvi put.
Palantir je integrirao NVIDIA Nemotron open modele u svoj Sovereign AI Operating System za američke vladine agencije i kritičnu infrastrukturu. Sustav radi u air-gapped okruženjima — potpuno izoliranim mrežama bez internetske veze — pokrivajući sektore obrane, energetike, zdravstva, obrazovanja i transporta.
GitHub Desktop 3.6 je dostupan za macOS i Windows i donosi podršku za Git worktrees — mehanizam koji omogućuje paralelni rad na više grana bez stashanja — uz dublje Copilot integracije za commit poruke i merge konflikte.
TokenSpeed-Kernel je open-source troslojni kernel podsustav koji ubrzava LLM inference na NVIDIA i AMD GPU-ima do 3,6 puta bez prepisivanja koda, a već je integriran u vLLM inferencing framework.
Allen Institute (AI2) analizira OLMo 3 i OLMo Hybrid arhitekture i otkriva da hibridni modeli bolje predviđaju značenjske, kontekstno-ovisne tokene, dok čisti Transformeri ostaju bolji za verbatim kopiranje teksta.
OpenThoughts-Agent je otvoreni pipeline za kuriranje podataka za agentske jezične modele. Kroz 100+ ablacijskih eksperimenata tim je izgradio 100K primjera i finetunao Qwen3-32B koji postiže 44,8% na sedam agentskih benchmarka — nadmašujući sve postojeće open-source modele.
Claude Code v2.1.185 je UX zakrpa objavljena 20. lipnja 2026. koja mijenja poruku zastoja API streama i produžuje prag aktivacije s 10 na 20 sekundi tišine — bez promjena modela ili API-ja.
Multi-LCB je proširenje benchmarka LiveCodeBench s Pythona na 12 programskih jezika, opisano u radu arXiv:2606.20517 i prihvaćeno na konferenciji ICLR 2026. Testiranjem 24 velika jezična modela autori otkrivaju značajno preprilagođavanje (overfitting) Pythonu te jezično-specifičnu kontaminaciju podataka, čime izravno otkrivaju granice višejezičnog generiranja koda u današnjim modelima.
Engineering Playbook je open-source dokumentacija koju je UK AI Safety Institute objavio 18. lipnja 2026. i koja otvara internu infrastrukturu za evaluaciju frontier AI modela. Playbook je strukturiran u pet slojeva (Evaluate, Isolate, Connect, Run, Scale) i gradi na ranije otvorenom alatu Inspect AI koji ima preko 200 gotovih evaluacija i 240 kontributora.
Robin Rombach, suosnivač i CEO Black Forest Labs (tvorci FLUX modela), obratio se G7 liderima s pozivom da otvoreni i odgovorni razvoj AI-a postane globalna norma. Rombach argumentira da javna dostupnost AI parametara potiče inovacije i demokratizira tehnologiju.
Allen Institute objavio je MolmoMotion, potpuno open-source model koji predviđa 3D trajektorije objekata iz videa i prirodnojezičnih uputa poput 'okreni zdjelu'. Model postiže state-of-the-art na PointMotionBenchu s 0,109 m prosječnog pomaka naspram 0,134 m prethodnog rekorda, a podiže uspjeh pick-and-place zadataka u robotici s 56% na 76,3%, plus 20,3 postotna boda. Treniran je na MolmoMotion-1M skupu od 1,16 milijuna videa s 3D trajektorijama i opisima radnji.
vLLM je predstavio Semantic Router Fusion, primitiv u kojem više modela radi paralelno kao panel, a model-sudac analizira konsenzus i razlike te sintetizira jedan odgovor. Podržava lokalne vLLM i privatne endpointe te javne providere poput Gemini, Kimi, DeepSeek i Claude. Vanjska validacija na OpenRouter DRACO pokazala je 69% za spojeni panel naspram 65,3% za najbolji pojedinačni model, uz punu OpenAI API kompatibilnost.
GitHub je objavio Multilingual Repositories Dataset s više od 80 milijuna klasifikacijskih redaka kroz 40+ milijuna repozitorija, pod potpuno otvorenom CC0-1.0 licencom. Za svaki repozitorij dataset bilježi tri tekstualna izvora — README, najkomentiraniji issue i najkomentiraniji pull request — uz detekciju jezika kroz tri alata: fastText, gcld3 i lingua-py. Portugalski vodi među ne-engleskim README datotekama, a korejski je najzastupljeniji u raspravama issue-a.
CNCF navodi da Oracleova donacija od 3 milijuna dolara u OCI compute kreditima omogućuje Arm64 CI/CD podršku u više od 12 projekata, uključujući OpenTelemetry, containerd, Falco, Longhorn, Crossplane i Jaeger. Potražnja je brzo nadmašila početnu smjernicu od 5.000 dolara mjesečno. Pomak prati podatak da više od 50 posto novih AWS instanci i 33 posto Azure instanci sada radi na Arm64 arhitekturi.
AI2 je objavio olmo-eval, otvorenu evaluacijsku platformu koja proširuje OLMES standard iz jednokratnog benčmarkinga prema cjelovitoj razvojnoj petlji. Ključna inovacija je parna usporedba na razini pojedinih pitanja kroz checkpointe, uz ugrađene statističke mjere za razlikovanje stvarnih poboljšanja od šuma u podacima.
vLLM tim objavio je punu Day-0 podršku za MiniMax M3 — model s milijun tokena konteksta, nativnom multimodalnošću i Mixture-of-Experts arhitekturom. Ključna inovacija je MiniMax Sparse Attention koji omogućuje praktično posluživanje dugih konteksta bez punog materijaliziranja KV cachea.
Ollama je ažurirala MLX engine za Apple Silicon donoseći do 20 posto brže generiranje tokena putem fuzija Metal kernela i GPU uzorkovanja. Novi NVFP4 format kvantizacije prepolovi gubitak kvalitete u odnosu na nekvantizirani BF16, a sustav snimki olakšava agentske tokove rada s mogućnošću grananja i ponovnog pokušaja.
Helion je PyTorch-nativni DSL za pisanje GPU kernela bez direktnog CUDA koda. Devet Helionovih kernela integrirano je u vLLM za FP8 inferenzu Qwen3 modela: ne-GEMM kerneli bilježe ubrzanja do 73% na H100, a sveukupna propusnost raste za oko 5–9% u usporedbi s prethodnim rješenjima.
LF AI & Data Foundation pokrenula je DocLang Specification Working Group s osnivačkim članovima IBM-om, Red Hatom i NVIDIA-om radi razvoja otvorenog standarda za AI-nativne dokumente. Format čuva semantičko značenje i geometrijski raspored, ugrađuje governance kontrole i optimiziran je za moderne AI tokenizatore i agentne workflow-ove.
vime je novi RL okvir za post-trening jezičnih modela koji spaja Megatron distribuirani trening i vLLM inferenciju u jedinstven pipeline. Na GB200 hardveru Qwen3-30B-A3B MoE model postiže oko 147 sekundi po koraku — 1,72× brže nego na H200. R3 routing replay smanjuje raskorak log-vjerojatnosti s 0,019 na 0,013.
Novi rad predstavlja vla.cpp, C++ inference engine za pokretanje Vision-Language-Action politika na resursno ograničenom robotskom hardveru. Engine dostiže SOTA razinu na benchmarku LIBERO-Object i izvršava BitVLA uz samo 1,3 GiB memorije.
Ollama 0.30 donosi integraciju s llama.cpp za bolje performanse i GGUF kompatibilnost modela, uz do 20% bržu propusnost na NVIDIA GPU-ovima. Proširuje hardversku podršku Vulkanom na AMD i Intel uređajima te dodaje podršku za tool-calling. Nadopunjuje postojeći MLX engine za Apple silicij.
vLLM tim izdao je v0.3 'Themis' svog Semantic Routera, prvu produkcijski spremnu verziju za usmjeravanje upita između modela. Donosi kanoničku konfiguraciju, inspektabilan tok odluke i reproducibilno ponašanje routinga za Kubernetes deploymente.
Google Research je 3. lipnja 2026. na GitHubu pod licencom Apache 2.0 objavio Python/PyTorch framework koji pokreće globalni servis Flood Hub za predviđanje poplava. Framework koristi LSTM i noviju ME-LSTM arhitekturu nad open-source datasetom Caravan, a nadograđeni v2 model produžuje pouzdani horizont predviđanja za 6 dana u mjerenim slivovima.
vLLM Semantic Router dobio je Session-Aware Agentic Routing (SAAR), mehanizam koji razumije dugotrajne agentske razgovore umjesto da svaku poruku tretira zasebno. Na 21.600 testnih turnusa SAAR smanjuje prebacivanja modela za 79,29 posto, u potpunosti eliminira nesigurna prebacivanja i smanjuje procijenjene troškove za 78,71 posto.
vLLM je integrirao Intelovu AutoRound kvantizaciju u vLLM-Omni, omogućivši W4A16 kompresiju multimodalnih i difuzijskih modela. Rezultat je do 62 posto manji checkpoint, uz minimalan pad kvalitete i brže generiranje na Intel XPU i NVIDIA grafičkim karticama.
vLLM tim objavio je praktičan vodič za pokretanje vLLM-a na NVIDIA DGX Spark sustavu temeljenom na GB10 čipu. Vodič pokriva ponašanje unificirane memorije, posluživanje NVFP4 modela Nemotron-3-Super, Docker deployment, Prometheus metrike i rezultate lokalne evaluacije na novom edge-hardveru.
xAI je objavio xai-sdk-python v1.15.0, izdanje s tri promjene: dodavanje modela grok-build-0.1 u klasu ChatModel, podršku za context compaction odnosno sažimanje konteksta, te podizanje verzije s 1.14.0 na 1.15.0. Sve promjene došle su kroz tri zasebna pull requesta.
PithTrain je novi sustav za treniranje Mixture-of-Experts modela optimiziran za AI agente za kodiranje. Rad uvodi metriku agent-task efficiency i pripadni ATE-Bench, a na njemu PithTrain postiže do 62 posto manje agentskih koraka i 64 posto manje aktivnog GPU vremena uz usporedivu propusnost.
vLLM je 28. svibnja 2026. uveo standardizirane API-je za sinkronizaciju težina (weight synchronization) i poboljšanu podršku za asinkroni reinforcement learning. Rješava fragmentaciju u kojoj svaki RL framework ad-hoc implementira prijenos težina između treninga i inferencije, te popravlja probleme stabilnosti u velikim distribuiranim deploymentima.
Data Formulator 0.7 je open-source sustav Microsoft Researcha koji povezuje rascjepkane izvore podataka u poduzećima i podržava iterativne analitičke tijekove. Donosi perzistentne data konektore i kontekstualno svjesne AI agente, omogućujući analitiku bez znanja SQL-a ili programiranja.
Mistral Search Toolkit je open-source framework za izgradnju produkcijskih pretraživačkih pipelinea za AI aplikacije. Objedinjuje unos, dohvat i evaluaciju pod jednim sučeljem i može se postaviti u oblaku, on-premises ili na rubu mreže.
OpenJarvis v1.0 je open-source framework za izgradnju osobnih AI agenata koji rade lokalno na vlastitom hardveru, s ugrađenom Ollama integracijom. Local-first je pristup u kojem modeli ostaju lokalni, a oblak je opcionalan, uz praćenje potrošnje energije, troška i latencije.
PyTorch kompajler torch.compile postiže ubrzanje do 10× na GPU-ima eliminacijom redundantnog pisanja u globalnu memoriju kroz tehniku kernel fusion. Umjesto zasebnih GPU kernela za svaku operaciju, Inductor kompajler automatski spaja zavisne operacije u jedan kernel koji međuvrijednosti drži u brzim registrima procesora.
xAI je objavio Python SDK v1.14.0 koji donosi podršku za pretraživanje slika unutar web_search funkcionalnosti. Novo polje enable_image_search i SERVER_SIDE_TOOL_IMAGE_SEARCH enum konstanta omogućuju razvojnim timovima koji grade Grok-temeljene aplikacije uključivanje pretrage vizualnog sadržaja na serverskoj strani, uz standardnu web pretragu teksta.
Linux Foundation AI projekt Kedro objavio je verziju 1.2.0 zajedno s Kedro-Viz 12.3.0. Novi @experimental dekorator omogućuje označavanje API-ja u razvoju, a starter projekt support-agent-langgraph demonstrira integraciju s LangGraph orkestracijom i Langfuse/Opik prompt management alatima. Kedro-Viz dobiva Mermaid dijagrame i node preview extensibility za bolji pipeline debugging.
Stability AI je 20. svibnja 2026. objavio Stable Audio 3.0 — obitelj od 4 audio modela (Small SFX, Small, Medium, Large) od kojih su tri open-weight i dostupna na Hugging Face-u. Glavna novost je generacija audija do 6 minuta (prethodna verzija je davala 47 sekundi), kao i podrška za audio inpainting, kauzalnu kontinuaciju i LoRA fine-tuning, uz tvrdnju da su svi modeli trenirani isključivo na licenciranim podacima.
LangChain je objavio tehnički pregled LangSmith Enginea — autonomnog meta-agenta koji analizira greške u produkcijskim AI agentima i predlaže konkretne popravke. Engine automatizira detekciju grešaka, generiranje evaluatora i regresijskih testova end-to-end.
PyTorch tim objavio je eksperimentalni ExecuTorch MLX Delegate — backend koji iskorištava Apple MLX framework i Metal GPU kernele za 3 do 6 puta veći throughput na Apple Silicon čipovima. Podržava Llama 3.2, Qwen 3, Phi-4 mini, Whisper i Voxtral real-time streaming transkribiranje.
GitHub je objavio opću dostupnost REST API-ja za Copilot Spaces, čime timovi mogu programatski kreirati, konfigurirati i brisati kontekstualne AI radne prostore. Novo sučelje posebno je korisno organizacijama koje upravljaju većim brojem Spaces-a bez oslanjanja na ručne tijekove rada.