AMD: hipVS — GPU vektorska pretraga za Instinct, cuVS-kompatibilna, s demoom agentnog RAG-a

Što su vektorska pretraga i RAG?

Vektorska pretraga je tehnika pronalaženja najsličnijih vektora u visokodimenzijskom prostoru — srž moderne semantičke pretrage i RAG sustava. Umjesto usporedbe ključnih riječi, uspoređuju se numeričke reprezentacije značenja. RAG (Retrieval-Augmented Generation) je pristup koji dopunjuje jezični model dohvaćenim relevantnim dokumentima iz vanjske baze podataka, omogućujući točnije i provjerljive odgovore bez potrebe za ponovnim treniranjem modela. Upravo GPU-ubrzana vektorska pretraga čini RAG sustave sposobnim za rad u stvarnom vremenu nad velikim korpusima podataka.

Četiri algoritma i kompatibilnost s NVIDIA ekosistemom

hipVS je izgrađen na AMD-ovom hipRAFT algoritmu i donosi podršku za četiri metode vektorske pretrage. CAGRA je graf-temeljeni algoritam za aproksimativno pretraživanje najbližih susjeda (ANN) poznat po visokim performansama na gustim indeksima. IVF-Flat nudi egzaktnu pretragu unutar klastera bez kompresije, dok IVF-PQ koristi produkt-kvantizaciju za komprimiranu ANN pretragu uz smanjeni memorijski otisak. Četvrti algoritam je Brute-Force egzaktni k-NN koji garantira precizne rezultate bez aproksimacije.

AMD je posebno naglasio kompatibilnost s NVIDIA cuVS API-jem. To znači da razvojni timovi koji već koriste cuVS na NVIDIA hardveru mogu portirati radna opterećenja na AMD Instinct GPU-ove uz minimalne izmjene postojećeg koda — što je izravna konkurentska prednost prema dominantnom CUDA ekosistemu.

Demo: agentni RAG s dekompozicijom upita

Uz biblioteku, AMD je objavio demonstraciju agentnog RAG sustava koji ilustrira praktičnu primjenu hipVS-a. Kad korisnik postavi složen upit, sustav ga automatski rastavlja na 3 do 5 pod-upita koji se paralelno prosljeđuju vektorskoj bazi. Rezultati se zatim deduplikacijom pročišćavaju od preklapajućih dokumenata, a jezični model sintetizira konačan odgovor uz eksplicitno citiranje izvora za svaku tvrdnju.

Takva arhitektura omogućuje znatno bolji odziv na složena višedijelna pitanja nego klasični jednokratni RAG upiti. AMD pozicionira hipVS kao infrastrukturnu osnovu za enterprise AI sustave koji trebaju skalabilnu vektorsku pretragu na vlastitom hardveru — alternativu oblačnim vektorskim bazama poput Pinecone ili Weaviate.