AMD: Instinct MI355X u MLPerf Training v6.0 na 5% zaostatka za NVIDIA-om, 3,5× brži od prošle generacije
AMD je u MLPerf Training v6.0 pokazao da je Instinct MI355X unutar otprilike 5% performansi ekvivalentnog NVIDIA GPU-a na LLM benchmarkovima. MI355X je 3,5× brži od prošlogodišnjeg MI300X te 13–19% brži od prethodnog kruga. AMD je prvi put uveo MXFP4 (FP4) recepte za trening i Primus jedinstveni okvir, uz višečvornu prijavu od 512 MI300X GPU-a na 64 čvora.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
AMD je objavio rezultate u MLPerf Training v6.0 koji pokazuju da se njegov Instinct MI355X približio NVIDIA-i na ključnim benchmarkovima za treniranje velikih jezičnih modela.
Koliko je MI355X blizu NVIDIA-i?
Prema AMD-ovim mjerenjima, MI355X je unutar otprilike 5% performansi ekvivalentnog NVIDIA GPU-a na oba LLM benchmarka u krugu v6.0. To je najuži zaostatak dosad i signal da AMD postaje ozbiljnija alternativa za treniranje. MLPerf Training je standardizirani paket testova koji mjeri vrijeme treniranja modela do zadane točnosti.
Koliki je napredak u odnosu na prethodnike?
MI355X je 3,5× brži od prošlogodišnjeg MI300X na istim benchmarkovima, te 13–19% brži od prethodnog kruga (v5.1) na zadacima poput Llama 2 70B LoRA i Llama 3.1 8B. AMD je prvi put uveo MXFP4 recepte za trening — format u 4 bita koji smanjuje memorijske i računske zahtjeve — te novi Primus jedinstveni okvir za treniranje.
Što to znači za tržište AI hardvera?
Višečvorna prijava obuhvatila je 512 MI300X GPU-a na 64 čvora (uz OCI), čime AMD pokriva i visoku skalu kruga. Objava istog dana kad i NVIDIA-in MLPerf sweep pojačava natjecanje: uži zaostatak i FP4 trening čine AMD konkurentnijim u podatkovnim centrima koji traže alternativu NVIDIA stogu.
Česta pitanja
- Koliko je MI355X blizu NVIDIA-i?
- Unutar otprilike 5% performansi ekvivalentnog NVIDIA GPU-a na oba LLM benchmarka u MLPerf Training v6.0.
- Koliko je MI355X brži od prethodnika?
- 3,5× brži od prošlogodišnjeg MI300X i 13–19% brži od prethodnog kruga (v5.1).
- Što je MXFP4?
- Format brojeva u 4 bita (FP4) koji AMD prvi put koristi za trening radi veće učinkovitosti.