AMD: SGLang Diffusion na ROCm-u dovodi generiranje i uređivanje slika na Instinct GPU-e — inference framework iz LLM svijeta širi se na difuziju
AMD je objavio vodič za pokretanje difuzijskih modela za generiranje i uređivanje slika na Instinct GPU-ima kroz SGLang Diffusion na ROCm steku. SGLang, inference framework izvorno popularan za velike jezične modele, sada proširuje podršku na image difuziju, čime AMD jača ponudu za AI inference izvan NVIDIA ekosustava.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
AMD je 10. srpnja 2026. na ROCm blogu objavio vodič za pokretanje difuzijskih modela na Instinct GPU-ima putem SGLang Diffusiona. Difuzijski modeli su temelj generiranja slika (Stable Diffusion, FLUX), a inference — pokretanje gotovog modela — na njima traži optimiziran softverski sloj da bi bio brz i isplativ.
Zašto SGLang na difuziji?
SGLang (Structured Generation Language) inference je framework koji se proslavio ubrzavanjem velikih jezičnih modela kroz tehnike poput RadixAttention keširanja. Njegovo proširenje na image difuziju znači da isti optimizirani serving sloj sada pokriva dvije glavne modalne klase — tekst i slike — pod jednim krovom. AMD-ov vodič demonstrira serviranje i benchmarking difuzijskih modela na ROCm steku, iako objavljeni sažetak ne navodi konkretne brojke izvedbe.
Strateški kontekst
Za AMD je svaki optimizirani inference put na Instinct hardveru borba za dio tržišta koje dominira NVIDIA. Hardver AMD-a često je po sirovoj snazi usporediv, ali softverski ekosustav — CUDA, cuDNN, TensorRT — desetljećima je NVIDIA-in obrambeni jarak. Podrška za popularne open-source frameworke poput SGLanga na ROCm-u spušta cijenu prelaska: timovi koji već koriste SGLang za LLM-ove mogu isti alat primijeniti na generiranje slika bez učenja novog toolchaina.
Praktičan značaj
Image-generacijski inference u produkciji troši znatne GPU resurse, pa je izbor jeftinijeg hardvera izravna ušteda. Objava je dio šireg AMD napora iz srpnja 2026. — istog tjedna predstavljen je i Python DSL FlyDSL — da ROCm učini uvjerljivom alternativom za AI radne terete, ne samo za treniranje nego i za serviranje modela krajnjim korisnicima.
Česta pitanja
- Što je SGLang Diffusion?
- Proširenje SGLang inference frameworka — izvorno namijenjenog velikim jezičnim modelima — na difuzijske modele za generiranje i uređivanje slika.
- Zašto je važno da radi na AMD GPU-ima?
- Jer proširuje izbor hardvera za image-generacijski inference izvan NVIDIA CUDA ekosustava, na AMD Instinct akceleratore kroz ROCm stack.
Povezane vijesti
AMD: FlyDSL — Python DSL koji obećava performanse ručno pisanih HIP C++ GPU kernela uz znatno manje koda
AMD objašnjava occupancy matematiku za MI355X: visoka popunjenost nije uvjet za vršni throughput
NVIDIA Vera: zašto agentski AI treba brže jezgre, a ne više jezgri