AMD: Ryzen AI Max+ 395 pokreće LLM modele do 122 milijarde parametara uz zajedničku memoriju
AMD ROCm blog objavio je detaljnu analizu LLM inferencije na Ryzen AI Max+ 395 procesoru s UMA (Unified Memory Architecture) arhitekturom. Sustav s 128 GB LPDDR5X memorije postiže 42 tok/s na Qwen3.5 35B MoE modelu s punim GPU offloadingom, a podržava i modele do 122B parametara kombiniranjem CPU i GPU memorije.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
Što AMD Ryzen AI Max+ omogućuje za lokalnu LLM inferenciju?
AMD je kroz ROCm blog objavio detaljnu analizu mogućnosti LLM inferencije na Ryzen AI Max+ 395 procesoru — najnaprednijeg čipa iz AMD-ove Ryzen AI Max linije za laptopove i mini PC uređaje. Ključna prednost ovog procesora je UMA (Unified Memory Architecture, Ujedinjena Memorijska Arhitektura) u kojoj CPU i integrirani GPU Radeon 8060S dijele isti fizički memorijski bazen od 128 GB LPDDR5X memorije.
Za razliku od diskretnih GPU-ova s odvojenim VRAM-om, Ryzen AI Max+ procesori omogućuju transparentno dijeljenje memorije između CPU-a i GPU-a, što praktički eliminira jedno od ključnih ograničenja lokalne LLM inferencije.
Koji su konkretni benchmark rezultati na testiranim modelima?
Testiranje je provedeno na Ubuntu 24.04 LTS s ROCm 7.2.1 i Ollama 0.20.x, koristeći Q4_K_M kvantizaciju modela:
| Model | Veličina | Brzina generiranja | GPU offloading |
|---|---|---|---|
| Qwen3.5 9B | 6,2 GB | 29,84 tok/s | 100% GPU |
| Qwen3.5 35B-A3B (MoE) | 20,5 GB | 42,04 tok/s | 100% GPU |
| Qwen3.5 122B-A10B (MoE) | 76 GB | 8,59 tok/s | 61% GPU / 39% CPU |
Posebno je zanimljiv rezultat za Qwen3.5 35B-A3B MoE (Mixture-of-Experts, Mješavina eksperata) model koji nadmašuje manji 9B model unatoč znatno više parametara — to je zato što MoE arhitektura aktivira samo 3 milijarde parametara po tokenu, dok ostatak ostaje neaktivan.
Kako se Ryzen AI Max+ pozicionira za profesionalne korisnike?
Za interaktivne primjene AMD preporučuje Qwen3.5 35B-A3B koji osigurava 42 tok/s — dostatno za fluidan chat iskustvo. Za maksimalni kapacitet dostupan je Qwen3.5 122B-A10B, koji premašuje GPU-ov kapacitet od 64 GB i automatski distribuira teret između GPU-a i CPU-a, postigavši 8,59 tok/s.
Ryzen AI Max+ 395 pozicionira AMD direktno u segment koji su dotad dominirali Apple M4 Max čipovi s visokom propusnosti memorije — ali s prednosti otvorenog ROCm ekosustava i Linuxove kompatibilnosti s Ollamom i srodnim alatima.
Česta pitanja
- Što je UMA arhitektura u AMD Ryzen AI Max+ kontekstu?
- UMA (Unified Memory Architecture) je dizajn u kojemu CPU i GPU dijele isti fizički memorijski bazen od 128 GB LPDDR5X, što omogućuje pokretanje LLM modela koji premašuju klasična ograničenja VRAM-a.
- Koliku brzinu inferencije postiže Ryzen AI Max+ na 35B modelima?
- Ryzen AI Max+ 395 postiže 42,04 tok/s na Qwen3.5 35B-A3B MoE modelu s punim GPU offloadingom i 154,52 tok/s za obradu upita (prompt processing).
- Mogu li na Ryzen AI Max+ pokrenuti model od 122 milijarde parametara?
- Da, Qwen3.5 122B-A10B radi na Ryzen AI Max+ uz automatsku distribuciju između GPU-a (61%) i CPU-a (39%), postižući 8,59 tok/s pri generiranju teksta.
📬 AI vijesti u tvoj inbox
Dnevni digest po tvojoj mjeri — biraš teme, izvore i ritam. Odjava jednim klikom.
Povezane vijesti
AMD: hipVS — GPU vektorska pretraga za Instinct, cuVS-kompatibilna, s demoom agentnog RAG-a
NVIDIA: performansa po vatu kao ključna metrika — Blackwell GB300 do 25× efikasniji od Hoppera
AMD: GEAK agent automatski optimizirao DeepSeek-V4 MLA kernel na MI355 uz do 9× ubrzanje