AWS, Bedrock·Neptune·Mem0를 통한 기업 전체 AI 에이전트 메모리 아키텍처 공개

에이전트의 근본적인 문제

오늘날의 AI 에이전트는 공통적인 결점이 있습니다. 상호작용 간에 컨텍스트를 잃는 것입니다. 세션이 종료되면 에이전트는 사용자가 말한 것, 어떤 프로젝트를 담당하는지, 어떤 결정이 이미 내려졌는지를 잊어버립니다. 엔터프라이즈 환경에서는 이것이 컨텍스트를 계속 반복해야 하기 때문에 받아들일 수 없습니다.

AWS는 세 가지 구성 요소를 결합하여 이 문제를 해결하는 참조 아키텍처를 공개했습니다. Amazon Bedrock이 기반 언어 모델(Claude, Llama, Titan)을 제공하고, Amazon Neptune이 장기 메모리를 위한 그래프 DB 역할을 하며, Mem0 프레임워크가 메모리 생명 주기——무엇을 기억할지, 언제 검색할지, 언제 삭제할지——를 관리합니다.

왜 벡터 DB가 아닌 그래프 DB인가

AI 메모리를 위한 기존 솔루션의 대부분은 텍스트 임베딩을 저장하는 벡터 DB(Pinecone, Weaviate)를 사용합니다. 이 접근 방식은 의미론적 검색——“유사한 대화 찾기”——에는 잘 작동하지만 구조화된 관계에는 취약합니다.

Amazon Neptune은 다른 접근 방식을 제공합니다. 엔티티(직원, 프로젝트, 문서, 고객)가 노드로 저장되고, 그들 간의 관계가 엣지로 저장됩니다. 에이전트는 “Ana가 이끄는 Alfa 프로젝트와 관련된 문서는 무엇인가”라고 질의하여 환각 없이 정확한 답변을 얻을 수 있습니다. 이는 신뢰성이 요구되는 엔터프라이즈에 매우 중요합니다.

Mem0 프레임워크의 역할

Mem0는 에이전트가 메모리를 관리하는 방식을 표준화하는 오픈소스 프레임워크입니다. 새로운 사실 기록, 컨텍스트에서 관련 정보 검색, 오래된 데이터 삭제라는 세 가지 기본 작업을 위한 API를 제공합니다. Mem0 없이는 각 팀이 그런 로직을 직접 작성해야 합니다.

AWS 아키텍처는 Mem0가 Bedrock 모델과 Neptune 데이터베이스와 어떻게 협력하는지 보여줍니다. 에이전트가 쿼리를 받으면 Mem0는 먼저 Neptune 그래프에서 관련 메모리를 검색하고 이를 Bedrock 모델의 프롬프트에 삽입합니다. 응답 후 새로운 사실들이 새로운 노드와 엣지로 Neptune에 다시 저장됩니다.

인간 루프 검증

아키텍처의 핵심 요소는 인간 루프 검증입니다. 에이전트는 배운 모든 것을 자동으로 저장하지 않습니다——중요한 사실이 영구 메모리의 일부가 되기 전에 인간이 검토하고 승인합니다. 이를 통해 잘못되거나 부정확한 정보로 인한 메모리 오염을 방지합니다.

이 접근 방식은 감사 가능성이 의무적인 금융 및 의료 같은 규제 산업에서 특히 유용합니다. 메모리의 모든 사실에는 누가 언제 검증했는지에 대한 메타데이터가 있어 추후 감사를 용이하게 합니다.

엔터프라이즈에 의미하는 것

Bedrock + Neptune + Mem0의 조합은 몇 주에서 몇 달 동안 컨텍스트를 기억할 수 있는 에이전트 구축을 가능하게 합니다. 이는 고객 서비스 자동화, 운영 프로세스 에이전트, 법률 및 재무 팀을 위한 전문 에이전트 같은 실제 프로덕션 사례의 전제 조건입니다.