🟢 🏥 U praksi Objavljeno: · 2 min čitanja ·

PyTorch: LinkedIn ubrzao solver DuaLip 75 puta na GPU-ovima

Urednička ilustracija: LinkedIn ubrzao solver DuaLip 75 puta na GPU-ovima

PyTorch Foundation objavio je studiju slučaja u kojoj je LinkedIn re-arhitektirao svoj distribuirani solver za linearno programiranje DuaLip na PyTorch. Nova GPU-akcelerirana verzija postiže do 75 puta brže iteracije od izvornog Scala koda i rješava optimizacijske probleme s trilijunima varijabli odluke.

🤖

Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.

PyTorch Foundation objavio je studiju slučaja o tome kako je LinkedIn preuredio svoj distribuirani solver za linearno programiranje DuaLip na PyTorch radi rješavanja optimizacijskih problema ekstremnih razmjera. Izvorni alat oslanjao se na Scala/Spark stog vezan uz procesore, a nova GPU-akcelerirana verzija nosi naziv DuaLip-GPU.

Što je linearno programiranje rješavalo na LinkedInu?

Linearno programiranje (LP) matematička je metoda za pronalaženje najbolje odluke uz zadana ograničenja. Na LinkedInu rješava pitanje: od milijuna ili milijardi mogućnosti, koji je najbolji skup akcija pod ograničenjima? Konkretni primjeri uključuju povezivanje poslova s potencijalnim kandidatima, balansiranje više poslovnih metrika u rangiranju i preporukama te optimizaciju količine poslane e-pošte. Takvi problemi obuhvaćaju stotine milijuna korisnika i do trilijune varijabli odluke.

Kako je postignuto ubrzanje?

PyTorch implementacija oslanja se na tri tehnike: operacije nad rijetkim (sparse) tenzorima za rukovanje milijardama do trilijuna varijabli, distribuiranu optimizaciju razdiobom varijabli po GPU-ovima uz sinkronizaciju kolektivnom komunikacijom (all-reduce, broadcast) te poboljšanja konvergencije poput normalizacije redaka i ubrzanog gradijentnog spusta (AGD/FISTA varijante).

Kakvi su rezultati?

Studija navodi do 75 puta brže iteracije u stvarnom vremenu na 8 GPU-ova u odnosu na izvornu Scala implementaciju, uz red veličine ubrzanja nad CPU sustavima i gotovo linearno skaliranje preko više GPU-ova. Točnost je pritom zadržana, što LinkedInu omogućuje “produkcijsku optimizaciju na razmjerima koji su prije bili neizvedivi”. Implementacija je dostupna kao open-source.

Česta pitanja

Što je DuaLip?
DuaLip je LinkedInov distribuirani solver za linearno programiranje, izvorno građen na Scala/Spark CPU stogu, a sada re-arhitektiran na PyTorch s GPU akceleracijom pod imenom DuaLip-GPU.
Koliko je brža PyTorch verzija?
Na 8 GPU-ova PyTorch solver je do 75 puta brži po iteraciji u stvarnom vremenu u odnosu na izvornu Scala implementaciju, uz gotovo linearno skaliranje po više GPU-ova.

📬 AI vijesti u tvoj inbox

Dnevni digest po tvojoj mjeri — biraš teme, izvore i ritam. Odjava jednim klikom.