AMD: hipVS — GPU-Vektorsuche für Instinct, cuVS-kompatibel, mit agentischem RAG-Demo

Was sind Vektorsuche und RAG?

Vektorsuche ist eine Technik zum Finden der ähnlichsten Vektoren in einem hochdimensionalen Raum — das Herzstück moderner semantischer Suche und RAG-Systeme. Statt Schlüsselwörter zu vergleichen, werden numerische Bedeutungsrepräsentationen verglichen. RAG (Retrieval-Augmented Generation) ist ein Ansatz, der ein Sprachmodell durch aus einer externen Datenbank abgerufene relevante Dokumente ergänzt und so genauere, überprüfbare Antworten ohne Neutraining des Modells ermöglicht. Genau GPU-beschleunigte Vektorsuche macht RAG-Systeme in Echtzeit über große Datenkorpora einsatzfähig.

Vier Algorithmen und Kompatibilität mit dem NVIDIA-Ökosystem

hipVS basiert auf AMDs hipRAFT-Algorithmus und bietet Unterstützung für vier Vektorsuchmethoden. CAGRA ist ein graphbasierter Algorithmus für approximative Nächste-Nachbarn-Suche (ANN), bekannt für hohe Leistung bei dichten Indizes. IVF-Flat bietet exakte Suche innerhalb von Clustern ohne Kompression, während IVF-PQ Produktquantisierung für komprimierte ANN-Suche mit reduziertem Speicher-Footprint einsetzt. Der vierte Algorithmus ist Brute-Force-k-NN, der präzise Ergebnisse ohne Approximation garantiert.

AMD betonte besonders die Kompatibilität mit NVIDIAs cuVS-API. Das bedeutet, dass Entwicklungsteams, die cuVS bereits auf NVIDIA-Hardware nutzen, Workloads mit minimalen Änderungen am bestehenden Code auf AMD-Instinct-GPUs portieren können — ein direkter Wettbewerbsvorteil gegenüber dem dominanten CUDA-Ökosystem.

Demo: Agentisches RAG mit Anfragenzerlegung

Neben der Bibliothek veröffentlichte AMD eine Demonstration eines agentischen RAG-Systems, das die praktische Anwendung von hipVS veranschaulicht. Wenn ein Nutzer eine komplexe Anfrage stellt, zerlegt das System sie automatisch in 3 bis 5 Teilanfragen, die parallel an die Vektordatenbank weitergeleitet werden. Die Ergebnisse werden per Deduplizierung von sich überschneidenden Dokumenten bereinigt, und das Sprachmodell synthetisiert eine Abschlussantwort mit expliziten Quellenangaben für jede Aussage.

Diese Architektur ermöglicht deutlich bessere Antworten auf komplexe mehrteilige Fragen als klassische Einmal-RAG-Anfragen. AMD positioniert hipVS als Infrastruktur für Enterprise-KI-Systeme, die skalierbare Vektorsuche auf eigener Hardware benötigen — als Alternative zu Cloud-Vektordatenbanken wie Pinecone oder Weaviate.