PyTorch: LinkedIn ubrzao solver DuaLip 75 puta na GPU-ovima
PyTorch Foundation objavio je studiju slučaja u kojoj je LinkedIn re-arhitektirao svoj distribuirani solver za linearno programiranje DuaLip na PyTorch. Nova GPU-akcelerirana verzija postiže do 75 puta brže iteracije od izvornog Scala koda i rješava optimizacijske probleme s trilijunima varijabli odluke.
Ovaj članak generiran je uz pomoć umjetne inteligencije na temelju primarnih izvora.
PyTorch Foundation objavio je studiju slučaja o tome kako je LinkedIn preuredio svoj distribuirani solver za linearno programiranje DuaLip na PyTorch radi rješavanja optimizacijskih problema ekstremnih razmjera. Izvorni alat oslanjao se na Scala/Spark stog vezan uz procesore, a nova GPU-akcelerirana verzija nosi naziv DuaLip-GPU.
Što je linearno programiranje rješavalo na LinkedInu?
Linearno programiranje (LP) matematička je metoda za pronalaženje najbolje odluke uz zadana ograničenja. Na LinkedInu rješava pitanje: od milijuna ili milijardi mogućnosti, koji je najbolji skup akcija pod ograničenjima? Konkretni primjeri uključuju povezivanje poslova s potencijalnim kandidatima, balansiranje više poslovnih metrika u rangiranju i preporukama te optimizaciju količine poslane e-pošte. Takvi problemi obuhvaćaju stotine milijuna korisnika i do trilijune varijabli odluke.
Kako je postignuto ubrzanje?
PyTorch implementacija oslanja se na tri tehnike: operacije nad rijetkim (sparse) tenzorima za rukovanje milijardama do trilijuna varijabli, distribuiranu optimizaciju razdiobom varijabli po GPU-ovima uz sinkronizaciju kolektivnom komunikacijom (all-reduce, broadcast) te poboljšanja konvergencije poput normalizacije redaka i ubrzanog gradijentnog spusta (AGD/FISTA varijante).
Kakvi su rezultati?
Studija navodi do 75 puta brže iteracije u stvarnom vremenu na 8 GPU-ova u odnosu na izvornu Scala implementaciju, uz red veličine ubrzanja nad CPU sustavima i gotovo linearno skaliranje preko više GPU-ova. Točnost je pritom zadržana, što LinkedInu omogućuje “produkcijsku optimizaciju na razmjerima koji su prije bili neizvedivi”. Implementacija je dostupna kao open-source.
Česta pitanja
- Što je DuaLip?
- DuaLip je LinkedInov distribuirani solver za linearno programiranje, izvorno građen na Scala/Spark CPU stogu, a sada re-arhitektiran na PyTorch s GPU akceleracijom pod imenom DuaLip-GPU.
- Koliko je brža PyTorch verzija?
- Na 8 GPU-ova PyTorch solver je do 75 puta brži po iteraciji u stvarnom vremenu u odnosu na izvornu Scala implementaciju, uz gotovo linearno skaliranje po više GPU-ova.
Izvori
📬 AI vijesti u tvoj inbox
Dnevni digest po tvojoj mjeri — biraš teme, izvore i ritam. Odjava jednim klikom.
Povezane vijesti
arXiv:2607.11307: ToMap — višeagentna autoformalizacija matematičkih dokaza +19% nad SOTA
Anthropic: Claude Code v2.1.208 i v2.1.209 — screen reader, vim remaps i wrapper podrška
arXiv:2607.09415: samovođeni test-time trening podiže dugokontekstne LLM-ove do 15%