AMD: Instinct MI355X nadmašuje NVIDIA B200 za ComfyUI workflowove uz PyTorch optimizacije u ROCm 7.2.0

AMD je objavio benchmark-e koji pokazuju da Instinct MI355X nadmašuje NVIDIA-in B200 u tri ComfyUI generativna workflowa kroz PyTorch attention optimizacije za CDNA4 arhitekturu u ROCm 7.2.0. Rezultati su podijeljeni kroz Docker image koji svaki korisnik može pokrenuti.

Rezultati po workflowu

Brojke su jasne:

• Text-to-Video (Wan2.2): MI355X postiže 1.439× speedup uz vrijeme od 116.91 sekundi naspram 168.28 s na B200.
• Text-to-Image (FLUX.1-dev): 1.416× brže, 24.77 s vs. 35.09 s.
• 3D Generacija (Hunyuan3D v2.1): 1.201× speedup, 21.51 s vs. 25.84 s.

CDNA4 hardver

MI355X donosi 256 compute unita, 288 GB HBM3e memorije i memorijsku propusnost od 8 TB/s. Te specifikacije idu u prilog attention-teškim operacijama tipičnim za diffusion modele — velika memorija drži intermedijalne reprezentacije visoko-rezolucijskih slika i video frame-ova bez tiling-a, a propusnost smanjuje vrijeme čekanja na memoriju.

Optimizacije u ROCm 7.2.0

Performansa ne dolazi samo iz hardvera. Ključne softverske novosti su:

• AOTriton gfx950 kernel podrška — native attention akceleracija kroz ahead-of-time Triton compiler za CDNA4.
• Occupancy tuning — smanjeni warp count za bolju efikasnost.
• hipBLASLt GEMM optimizacija — tuned kerneli za FP8, BF16 i FP16, dominantne tipove u diffusion i transformer radu.
• Pipelining i ThinLTO compiler optimizacije.

Što ovo znači za AI hardver tržište?

Tri produkcijska scenarija — video, slika, 3D — pokrivaju većinu generativnih ComfyUI use case-ova. Da AMD pokazuje konzistentne brojke kroz sva tri područja signalizira da CUDA/ROCm jaz, koji je dugo bio strukturalna prednost NVIDIA-e, postaje sve manji ovisi o softverskoj zrelosti pojedinih okvira. Za ComfyUI korisnike, AMD je sada legitiman izbor — barem na razini benchmarka.