🟡 🏥 U praksi Objavljeno: · 2 min čitanja ·

Microsoft: Potrošnja energije po AI upitu 4–20× manja od ranijih procjena, moguće 8–20× uštede

Editorial ilustracija: mjerenje energetske učinkovitosti AI podatkovnih centara

Microsoftova nova analiza pokazuje da prosječan AI upit troši 0,16 do 0,60 Wh energije — usporedivo s računalom koje radi 15 do 60 sekundi i 4 do 20 puta manje nego što su ranije studije procjenjivale. Istraživači navode da prijašnje procjene nisu uračunale efikasnost na velikoj skali. Kombinacijom optimizacije modela, serving tehnika i napretka hardvera dostižno je 8 do 20 puta smanjenje energije po upitu.

🤖

Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.

Microsoftova nova analiza tvrdi da je stvarna potrošnja energije po AI upitu znatno niža nego što su javnost i ranije studije pretpostavljale — između 4 i 20 puta manja.

Koliko stvarno troši jedan AI upit?

Prema Microsoftovim mjerenjima, prosječan AI upit troši 0,16 do 0,60 Wh energije. To je usporedivo s osobnim računalom koje radi 15 do 60 sekundi. Za usporedbu konteksta: jedna milijarda upita dnevno zahtijeva oko 0,7 GWh, a uz optimizacije pada na manje od 0,4 GWh — što Microsoft uspoređuje s otprilike 0,4 % energije koju američka kućanstva troše na televizore.

Zašto su prijašnje procjene bile precijenjene?

Microsoft navodi da ranije studije nisu uračunale efikasnost koja se postiže na velikoj skali, pa su precjenjivale i potrošnju energije i vode. Prema novim podacima, potrošnja vode za hlađenje po upitu iznosi 0 do 0,067 mL — manje od jedne kapi. Razlika u procjenama proizlazi iz toga što se pojedinačni upiti obrađuju u optimiranim podatkovnim centrima, a ne u izoliranim, neučinkovitim uvjetima.

Kako se postiže 8 do 20 puta veća učinkovitost?

Microsoft identificira tri osi optimizacije čiji se učinci množe: optimizacija modela (5 do 10 puta), serving tehnike poput grupiranja zahtjeva (do 5 puta) te napredak hardvera (1,5 do 2,5 puta). Kombinirano, te tehnike omogućuju 8 do 20 puta manju potrošnju energije po upitu uz aktualnu ili blisku tehnologiju.

Zašto je ovo važno za raspravu o AI energiji?

Energetski otisak AI-ja postao je središnja tema javne rasprave, a Microsoftovi podaci unose preciznije brojke umjesto grubih procjena. Mjerenja sugeriraju da je glavni put prema održivijem AI-ju inženjerska optimizacija kroz model, serving i hardver, a ne tek smanjenje broja upita.

Česta pitanja

Koliko energije troši prosječan AI upit?
Prema Microsoftu, 0,16 do 0,60 Wh — usporedivo s računalom koje radi 15 do 60 sekundi.
Zašto su ranije procjene bile više?
Microsoft navodi da nisu uračunale efikasnost na velikoj skali, pa su precjenjivale potrošnju energije i vode.
Koliko se uštede može postići?
Kombinacijom optimizacije modela, serving tehnika i hardvera dostižno je 8 do 20 puta manje energije po upitu.