🟢 🔧 硬件 发布于: · 2 分钟阅读 ·

AMD:hipVS——面向Instinct的GPU向量检索库,兼容cuVS API,并附智能体RAG演示

hipVS向量检索架构图:AMD Instinct GPU上的四种算法与智能体RAG系统

AMD发布了hipVS,这是一个基于hipRAFT算法、面向AMD Instinct GPU的GPU加速向量检索库。该库与NVIDIA cuVS平台API兼容,支持四种检索算法,并附带智能体RAG系统演示——该系统将查询分解为3至5个子查询。

🤖

本文由人工智能基于一手来源生成。

什么是向量检索与RAG?

向量检索是在高维空间中寻找最相似向量的技术——它是现代语义搜索和RAG系统的核心。与关键词匹配不同,向量检索比较的是语义的数值表示。RAG(Retrieval-Augmented Generation,检索增强生成)是一种通过从外部数据库检索相关文档来增强语言模型的方法,无需重新训练即可提供更准确、可验证的答案。正是GPU加速的向量检索,使RAG系统能够在大规模语料上实现实时运行。

四种算法与NVIDIA生态的兼容性

hipVS构建于AMD的hipRAFT算法之上,支持四种向量检索方法。CAGRA是一种基于图的近似最近邻(ANN)算法,以在密集索引上的高性能著称。IVF-Flat提供聚类内的精确检索,不进行压缩;IVF-PQ采用乘积量化进行压缩ANN检索,内存占用更小。第四种算法是暴力精确k-NN,保证在无近似的情况下获得精确结果。

AMD特别强调了与NVIDIA cuVS API的兼容性。这意味着已在NVIDIA硬件上使用cuVS的开发团队,可以以极少的代码修改将工作负载迁移到AMD Instinct GPU——这是相对于主导地位的CUDA生态的直接竞争优势。

演示:具备查询分解的智能体RAG

随库一同发布的,是AMD的智能体RAG系统演示,展示了hipVS的实际应用。当用户提交复杂查询时,系统会自动将其分解为3至5个子查询,并行发送至向量数据库。随后对结果进行去重以消除重叠文档,最终由语言模型综合生成答案,并对每条论断明确标注来源。

这种架构在应对复杂多部分问题时,表现远优于经典的单次RAG查询。AMD将hipVS定位为企业级AI系统的基础设施底座,为需要在自有硬件上进行可扩展向量检索的场景提供替代Pinecone或Weaviate等云端向量数据库的方案。

常见问题

什么是向量检索,它为何对AI系统至关重要?
向量检索在高维空间中找到最相似的向量,是RAG系统的核心——它使模型能够在生成回答前从文档库中快速找到相关上下文。
AMD为何强调与NVIDIA cuVS API的兼容性?
与cuVS API兼容意味着用户可以以极少的代码改动将现有NVIDIA工作负载迁移到AMD Instinct GPU,从而降低转向AMD硬件的门槛。

📬 AI 新闻直达您的邮箱

按您的方式定制每日摘要——自选主题、来源和频率,一键退订。