54 vijesti
AMD je objavio vodič za pokretanje difuzijskih modela za generiranje i uređivanje slika na Instinct GPU-ima kroz SGLang Diffusion na ROCm steku. SGLang, inference framework izvorno popularan za velike jezične modele, sada proširuje podršku na image difuziju, čime AMD jača ponudu za AI inference izvan NVIDIA ekosustava.
FlyDSL je AMD-ov Python domain-specific jezik za pisanje GPU kernela koji prema novom ROCm vodiču dostiže performanse ručno optimiziranog HIP C++ koda uz manje napisanih linija. AMD je objavio praktični vodič za portiranje postojećih HIP kernela, pozicionirajući FlyDSL kao Python-first alternativu NVIDIA-inu CUDA lancu.
AMD ROCm tim objavio je tehnički vodič o ručnom izračunu GPU occupancyja za CDNA4 arhitekturu. Ključni nalaz: matrix-bound kerneli na MI355X postižu vršni throughput pri svega 12% occupancyja — protuintuitivan rezultat za praktičare koji dolaze iz CUDA ekosustava.
NVIDIA Vera CPU s Olympus jezgrama donosi 50% veći IPC od Grace procesora i 3,4 TB/s core-to-core propusnosti. Perplexity bilježi 1,5× brže dovršavanje poslova na coding agentskim workflowovima.
AMD Quark 0.12 omogućuje MXFP4 kvantizaciju FLUX.1-dev modela za generiranje slika na Instinct MI350 GPU-ima putem Diffusers i xDiT okvira. S torch.compile, MXFP4 ASM postiže 1,92× ubrzanje nad BF16 eager baseline uz CLIP ocjene identične referenci.
AMD ROCm Primus Tuning Agent kombinira deterministički seed planer i LLM-vođenu istraživačku petlju kako bi automatski otkrio optimalne konfiguracije za treniranje LLM-ova na AMD Instinct GPU-ima. Na Mixtral 8×22B postigao je +27% mjerenog throughputa nad AMD-ovom referencom za samo ~30 minuta pretrage.
Industrijski stručnjaci iz Multiverse Computinga i Toshibine korporacije za OECD.ai razlažu gdje kvantne tehnologije već danas mijenjaju AI, a gdje optimistična očekivanja nisu potkrijepljena dokazima. Tensor mreže smanjuju računalnu potrebu 10–100 puta; šira kvantna ML primjena nije realna u idućem desetljeću.
AMD Research objavio je 3. srpnja 2026. otvoreni benchmarking okvir AgentKernelArena koji mjeri koliko dobro AI coding agenti optimiziraju stvarne GPU kernele. Od 214 zadataka u četiri kategorije, AMD-ov vlastiti GEAKv3 (Claude Opus 4.6) vodi s 9,04x ubrzanjem na HIP kernelima, dok Claude Code (Opus 4.6) dolazi drugi s 6,08x. Svi eksperimenti provođeni su na AMD Instinct MI300X unutar ROCm 7.1.1.
AMD ROCm tim objavio je 3. srpnja 2026. detalje produkcijske primjene Eagle3 spekulativnog dekodiranja na AMD hardveru. Kombinacija Eagle3 multi-layer pristupa, vLLM backenda i AMD Quark FP8 kvantizacije postiže 1,69x do 2,00x veći throughput za Kimi-K2.5 i 1,38x do 1,79x za MiniMax-M2.5 na AMD Instinct MI355X, bez gubitka u kvaliteti izlaza.
AMD je objavio GPU-rezidentni pipeline za detekciju objekata koji koristi rocDecode, DLPack, PyTorch i MIGraphX kako bi video okviri nikad ne napustili VRAM — sve do trenutka kad su poznate završne detekcije.
NVIDIA objašnjava kako naslagane softverske optimizacije na Blackwell arhitekturi — od NVFP4 preciznosti do spekulativnog dekodiranja — postižu do 20× veći throughput i pet puta niži trošak tokena za DeepSeek V4 modele.
AMD je objavio FlyDSL sustav unutar AITER frameworka (AI Tensor Engine for ROCm) koji automatski generira specijalizirane GEMM kernele za LLM decode fazu na AMD GPU-ovima. Rezultat: 1,64× prosječno smanjenje latencije i 1,79× ubrzanje za najkritičnije scenarije s M≤8 tokena, testirano na Instinct MI355X s 256 compute jedinica.
AMD Resource Manager dobio je automatsko istiskivanje (pre-emption): prati iskorištenost GPU-a po radnom opterećenju i prekida poslove ispod konfigurabilnog praga (npr. 10%) nakon zadanog idle timera (npr. 15 minuta). Nudi dvije politike — istiskivanje samo pod pritiskom na GPU ili uvijek — vraćajući resurse zauzete neaktivnim dev okruženjima u zajednički pool.
AMD je na Instinct MI355X akceleratoru demonstrirao W_MXFP4_A_MXFP6 mixed-precision kvantizaciju koja donosi do 29% veći throughput uz zadržavanje točnosti bliske FP8 standardu, koristeći vLLM framework za produkcijsku inferenciju.
NVIDIA i AWS najavili su EC2 G7 instance s RTX PRO 4500 Blackwell GPU-om koji donosi 4,6× bolji AI inference od prethodne G6 generacije, dok knjižnica cuVS postaje zadana u Amazon OpenSearch Serverlessu s 10× bržim vektorskim indeksiranjem.
OpenAI i Broadcom zajednički su najavili Jalapeño, custom ASIC čip optimiziran za LLM inference. Strateški korak kojim OpenAI ulazi u kategoriju vlastitog silikona — ravnopravno uz Google TPU, Apple Neural Engine i AWS Trainium — i smanjuje ovisnost o NVIDIA GPU-ima.
ATOM je AMD-ov open-source inference engine (softverski pogon za pokretanje AI modela) za MI355X GPU koji donosi dvije optimizacije za DeepSeek-V4: PrefillDelayer eliminira gubitak pri koordinaciji rankova, a Two-Batch Overlap ubrzava balansiranje tokena uz preklapanje mrežnih operacija.
AMD ROCm tim demonstrirao je EAGLE3 speculative decoding na 8× Instinct MI325X s modelom Kimi-K2.5, postižući 33% veći output throughput i 58% manji median inter-token latency bez gubitka točnosti na GSM8K benchmarku.
JUPITER je prvo europsko exascale superračunalo, smješteno u Forschungszentrum Jülich u Njemačkoj. Pogonjen NVIDIA Grace Hopper Superchipovima i Quantum-X800 InfiniBand mrežom, JUPITER je mapirao 86 milijardi neurona, oborio kvantni rekord simulacijom 50 qubita i dostigao svjetski rekord u klimatskim simulacijama.
NVIDIA Vera CPU s Olympus jezgrom stiže u Los Alamos National Laboratory donoseći 7× bolje performanse na URSA workloadima i 3× na Monte Carlo simulacijama prijenosa topline u usporedbi s Crossroads x86 procesorom. Tri nova superračunala — Mission, Vision i Veritas — bit će operativna 2027.
NVIDIA je objavila tri nove CUDA-X softverske biblioteke za AI u znanosti: cuPhoton za astronomiju nudi ubrzanje do 14.900×, ALCHEMI kod Lila Sciences postiže 50× brži screening materijala, a DAQIRI ubrzava real-time networking za fizikalne detektore.
AMD je na ROCm blogu opisao optimizaciju okvira Matrix3D za generiranje istraživih 3D svjetova na AMD Instinct GPU-ima. Zamjenom CUDA-specifičnih komponenti Triton kernelima i korištenjem biblioteke gsplat za 3DGS, renderiranje je na GPU-u MI250 ubrzano za 54 posto, a na MI300 za 50 posto, dok je sam rendering kernel 36 posto brži od CUDA verzije.
AMD je objavio komparativnu analizu RoCE mrežnih prometnih uzoraka pri treningu četiri velika LLM-a — GPT-4, Llama 3, DeepSeek-V2 i Grok 4.0 — kao praktično vodstvo za izgradnju AI infrastrukture u scale-out klasterima s više GPU čvorova.
AMD je predstavio Schola, open-source dodatak za Unreal Engine koji omogućuje trening učenjem pojačanjem kompatibilan s Gymnasiumom kroz Python okvire i gRPC. U primjeru se kolaborativna robotska ruka xArm6 trenira u Unreal Engineu 5.7 s MuJoCo fizikom, algoritmom PPO i PyTorchem na AMD ROCm stogu za GPU ubrzanje. Tutorial pokazuje reach-zadatak u kojem se vrh ruke pomiče na nasumične ciljne lokacije.
AMD je u MLPerf Training v6.0 pokazao da je Instinct MI355X unutar otprilike 5% performansi ekvivalentnog NVIDIA GPU-a na LLM benchmarkovima. MI355X je 3,5× brži od prošlogodišnjeg MI300X te 13–19% brži od prethodnog kruga. AMD je prvi put uveo MXFP4 (FP4) recepte za trening i Primus jedinstveni okvir, uz višečvornu prijavu od 512 MI300X GPU-a na 64 čvora.
NVIDIA je objavila da je njezina Blackwell platforma postigla najbolje rezultate na svih sedam testova MLPerf Training 6.0. GB300 NVL72 donosi do 1,6× brži trening od GB200 NVL72, a najveća prijava koristila je 8.192 Blackwell GPU-a na DeepSeek-V3 modelu od 671 milijarde parametara. CoreWeave je istrenirao DeepSeek-V3 671B u 2,02 minute na 8.192 GPU-a, dok je Microsoft Azure odradio Llama 3.1 405B u 7,07 minuta.
AMD je predstavio ATOM, inference engine za Instinct GPU-e koji eksponira OpenAI-kompatibilan API te orkestrira KV cache, scheduling i paralelizam. ATOM je vrh ROCm stoga, uz AITER kernele i MoRI RDMA komunikaciju, podržava TP, DP i EP paralelizam te je optimiziran za MoE modele poput DeepSeek V2–V4, Mixtral i Qwen3-MoE. Nudi FP8, MXFP4, INT8 i INT4 kvantizaciju te MTP speculative decoding s EAGLE proposerom.
Istraživači sa UC San Diego uz podršku Googlea grade podatkovni centar od 2.000 povučenih Pixel pametnih telefona. Zadržavanjem matičnih ploča štede oko 50% ugrađenog ugljika, a klaster od 25 do 50 telefona već sada odrađuje vršna opterećenja za 75 studentskih kolegija paralelnog računarstva.
![Urednička ilustracija: FLUX.2 [klein] stiže predinstaliran na ASUS ProArt laptope](https://images.24-ai.news/black-forest-labs-flux-outpainting-600.webp)
Black Forest Labs u partnerstvu s ASUS-om i NVIDIA-om donosi FLUX.2 [klein] predinstaliran na ASUS ProArt potrošačke laptope. Riječ je o prvom slučaju da se FLUX model isporučuje predinstaliran na potrošačkom hardveru. Model od 4 milijarde parametara omogućuje generaciju i editiranje slika u manje od jedne sekunde, lokalno i bez ovisnosti o cloudu.
OpenAI je najavio izgradnju novog Stargate data-centra u američkoj saveznoj državi Michigan. Riječ je o širenju Stargate infrastrukturnog programa za računalnu snagu koji OpenAI smješta u kontekst takozvanog Intelligence Agea. Detalji o kapacitetu i ulaganju u ovoj objavi nisu razrađeni, pa upućujemo na službeni izvor.
AMD je objavio da Alibabin open-source reinforcement-learning framework ROLL sada radi nativno na AMD Instinct GPU-ovima uz ROCm softver, bez izmjena koda, custom patcheva ili nestandardnih buildova. Suradnja uključuje vLLM kompatibilnost, popravke za Ray i podršku za distribuirani RL trening velikih jezičnih modela.
AMD je na ROCm blogu predstavio implementaciju spekulativnog dekodiranja na Instinct MI300X GPU-ima. Tehnika u kojoj manji draft model predviđa tokene, a veći ih verificira, postigla je do 4,3 puta veću propusnost u odnosu na klasično autoregresivno generiranje.
AMD ROCm blog opisuje novu 4-valan interleave pristup za FP8 GEMM (matrično množenje s pomiješanom preciznošću) kernele na Instinct MI355X akceleratoru s CDNA 4 arhitekturom. Optimizacija mijenja raspored od 8-valnog ping-pong pristupa prema 4 vala s punim VGPR budžetom od 512 registara, eliminirajući konflikte u LDS memoriji kroz XOR-baziranog swizzle i skrivajući memorijsku latenciju preciznim preklapanjem MFMA instrukcija i učitavanja podataka.
TokenSpeed, open-source LLM inference engine LightSeek Foundationa s MIT licencom, postigao je 580 tokena u sekundi na Qwen3.5-397B-A17B modelu koristeći osam NVIDIA Blackwell B200 GPU-a u TP8 konfiguraciji. Rekord je ostvaren za agentičke workloade s prefix cachingom i preklapanjem CPU-GPU izvođenja, uz manje od 16% degradacije performansi i pri kontekstu od 1 milijun tokena.
AMD ROCm blog objavio je detaljnu analizu LLM inferencije na Ryzen AI Max+ 395 procesoru s UMA (Unified Memory Architecture) arhitekturom. Sustav s 128 GB LPDDR5X memorije postiže 42 tok/s na Qwen3.5 35B MoE modelu s punim GPU offloadingom, a podržava i modele do 122B parametara kombiniranjem CPU i GPU memorije.
AMD ROCm tim objavio je tutorial za pisanje high-performance GEMM kernela u Gluon programskom modelu na MI355 GPU-u. Optimirani FP16 kernel postiže 1.489 TFLOPS uz 98,75 posto MFMA efikasnosti, dok proširenja na BF8 (3.257 TFLOPS) i MXFP4 (5.255 TFLOPS) demonstriraju relevantnost za moderne AI workloade. Tutorial uključuje workgroup remapping i swizzle koji reducira L2 cache misses s 5,3 M na 4,1 M.
AMD je 20. svibnja 2026. objavio ROCm 7.13 — novu verziju open-source AI compute stack-a koja donosi podršku za MI350P GPU, virtualizaciju do 8 izoliranih vGPU-a po MI300X akceleratoru, open-source ROCprof Trace decoder za transparentnu analizu performansi i modularno TheRock pakiranje s domain-specific SDK-ovima. Release validiran je na Ubuntu 26.04 i RHEL 9.6 te uključuje VMware ESXi 9.1 podršku za MI350X i MI355X.
BubbleFence je novi AMD ROCm AI tool objavljen 15. svibnja 2026. koji rješava fundamental ML problem semantičkog dijeljenja video streamova u train/validation/test setove bez semantic leakage. Umjesto klasičnih metadata-based heuristika, BubbleFence koristi vision foundation model embeddinge (CLIP) i adaptive bubbles s LID weighting za particioniranje. Demonstriran na autonomous driving (Zenseact Open Dataset) i Minecraft gameplay scenarijima bez configuration promjena.
AMD ROCm Kimi-K2.5 quantization za MI325X je novi inference acceleration blueprint objavljen 14. svibnja 2026. Kombinira AMD Quark kvantizacijski toolkit za pretvaranje Kimi-K2.5 modela u W4A8 i W8A8 precision formate, FlyDSL inference serving sloj i AITER optimization stack. Pristup pozicionira non-NVIDIA inference path za chinese frontier modele i pokazuje AMD strategiju da MI325X postane održiva alternativa H100/H200 za open-source LLM serving.
AMD Instinct MI355X je data center GPU koji u objavljenom benchmark-u nadmašuje NVIDIA B200 na tri ComfyUI generativna workflowa — text-to-video Wan2.2 (1.44×), text-to-image FLUX.1-dev (1.42×) i 3D Hunyuan3D v2.1 (1.20×) — zahvaljujući AOTriton gfx950 kernelima, hipBLASLt GEMM tuningu i ostalim ROCm 7.2.0 optimizacijama.
NVIDIA Fleet Intelligence je managed servis koji u stvarnom vremenu nadzire velike flote NVIDIA data center GPU-a — snagu, temperaturu, performanse i ECC greške — uz kriptografsku provjeru autentičnosti GPU-a kroz NVIDIA Remote Attestation Service. Servis je besplatan za vlasnike Vera Rubin, Blackwell i Hopper GPU-a.
TurboQuant je metoda agresivne kvantizacije KV-cachea na 3-4 bita koju je Red Hat AI tim sustavno usporedio s FP8 standardom. Rezultati pokazuju da FP8 zadržava propusnost i točnost, dok varijante 3bit-nc gube približno 20 postotnih bodova na zahtjevnim reasoning benchmarkovima poput AIME25.
NVIDIA Spectrum-X Multipath Reliable Connection (MRC) je RDMA transportni protokol koji distribuira jednu vezu preko više mrežnih putova i sada je objavljen kao otvorena specifikacija kroz Open Compute Project. MRC je već u produkciji kod OpenAI-a, Microsoftovog Fairwater data centra i Oracleovog Abilene data centra, a razvijen je u suradnji s AMD-om, Broadcomom, Intelom i Microsoftom.
AMD ROCm tim predstavio je FarSkip-Collective, modificiranu MoE arhitekturu koja eliminira GPU idle vrijeme tijekom Expert Parallelism komunikacije. Rezultati: 18 % manji TTFT za Llama-4 Scout, do 1,34× ubrzanje za DeepSeek-V3 i 11 % bržu Moonlight pre-trening fazu.
Tim Dongxin Guo, Jikun Wu i Siu Ming Yiu predstavio je 1. svibnja 2026. SAGA — workflow-atomic raspoređivač za AI agente na GPU klasterima koji tretira cijeli agent workflow kao jednu schedulable jedinicu umjesto pojedinačnih LLM poziva. Sustav postiže 1,64× geometrijsku sredinu smanjenja task completion vremena na 64-GPU klasteru i 99,2 % SLO postizanje pod multi-tenant opterećenjem. Rad je prihvaćen na HPDC 2026 u Clevelandu (13.-16. srpnja 2026.).
AMD Primus Projection je alat koji prije pokretanja treninga LLM-a na Instinct GPU klasterima predviđa memorijske zahtjeve i propusnost. Koristi analitičke formule uz stvarni GPU benchmark, a projekcije su unutar ~10 % izmjerenih rezultata na MI325X i MI355X akceleratorima za Llama i Mixtral modele.
Google je na konferenciji Cloud Next '26 predstavio dvije nove generacije TPU čipova: TPU 8i za inferenciju AI agenata i TPU 8t za trening najsloženijih modela. Potez formalizira podjelu Googleove TPU linije na dvije specijalizirane grane unutar 'agentne ere' računarstva.
NVIDIA i Google Cloud objavili su zajedničku suradnju za ubrzavanje agentic AI i physical AI radnih opterećenja, kombinirajući NVIDIA GPU infrastrukturu s Google Cloud platformom za robotiku, autonomne sustave i agente.
NVIDIA i HuggingFace demonstrirali su Gemma 4 kao Vision Language Agent koji autonomno odlučuje o korištenju kamere i cijelu pipeline obradu, uključujući speech-to-text i TTS, izvodi lokalno na NVIDIA Jetson Orin Nano Super s 8 GB memorije, bez cloud ovisnosti.
Google je na Cloud Next '26 konferenciji predstavio osmu generaciju svojih TPU čipova u dvije specijalizirane varijante — TPU 8t za treniranje modela i TPU 8i za agentic inference. Prva je to generacija posebno dizajnirana za autonomne AI agente i multi-step rezoniranje.