AMD：hipVS——Instinct용 GPU 벡터 검색 라이브러리, cuVS 호환 API 및 에이전트 RAG 데모 포함

벡터 검색과 RAG란 무엇입니까?

벡터 검색은 고차원 공간에서 가장 유사한 벡터를 찾는 기술입니다——이는 현대 시맨틱 검색과 RAG 시스템의 핵심입니다. 키워드 비교 대신 의미의 수치 표현을 비교합니다. RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 외부 데이터베이스에서 검색한 관련 문서로 언어 모델을 보강하는 접근 방식으로, 모델을 재훈련하지 않고도 더 정확하고 검증 가능한 답변을 제공합니다. 바로 GPU 가속 벡터 검색이 RAG 시스템을 대규모 데이터 코퍼스에서 실시간으로 작동할 수 있게 만듭니다.

4가지 알고리즘과 NVIDIA 생태계와의 호환성

hipVS는 AMD의 hipRAFT 알고리즘을 기반으로 구축되었으며, 4가지 벡터 검색 방식을 지원합니다. CAGRA는 밀집 인덱스에서 높은 성능으로 알려진 그래프 기반 근사 최근접 이웃(ANN) 알고리즘입니다. IVF-Flat은 압축 없이 클러스터 내 정확한 검색을 제공하며, IVF-PQ는 곱 양자화를 사용해 메모리 사용량을 줄인 압축 ANN 검색을 구현합니다. 네 번째 알고리즘은 근사 없이 정확한 결과를 보장하는 무차별 정밀 k-NN입니다.

AMD는 NVIDIA cuVS API와의 호환성을 특히 강조했습니다. 즉, NVIDIA 하드웨어에서 cuVS를 사용하는 개발팀이 기존 코드를 최소한으로 수정하여 AMD Instinct GPU로 워크로드를 이식할 수 있습니다——이는 지배적인 CUDA 생태계에 대한 직접적인 경쟁 우위입니다.

데모：쿼리 분해를 갖춘 에이전트 RAG

라이브러리와 함께 AMD는 hipVS의 실용적 적용을 보여주는 에이전트 RAG 시스템 데모를 공개했습니다. 사용자가 복잡한 쿼리를 입력하면 시스템이 이를 자동으로 3~5개의 하위 쿼리로 분해하여 벡터 데이터베이스에 병렬로 전송합니다. 이후 결과를 중복 제거하여 겹치는 문서를 제거하고, 언어 모델이 각 주장에 대한 출처를 명시적으로 인용하며 최종 답변을 합성합니다.

이러한 아키텍처는 고전적인 단일 RAG 쿼리보다 복잡한 다단계 질문에 훨씬 더 나은 응답을 가능하게 합니다. AMD는 hipVS를 자체 하드웨어에서 확장 가능한 벡터 검색이 필요한 엔터프라이즈 AI 시스템의 인프라 기반으로 포지셔닝하며, Pinecone이나 Weaviate 같은 클라우드 벡터 데이터베이스의 대안을 제공합니다.