Box가 3세대 AI 플랫폼을 구축한 방법: 동적 parent/child 모델의 Deep Agents

Box는 수만 개 조직이 사용하는 기업 콘텐츠 관리 플랫폼으로, AI 역량 구축에서 명확히 구분된 세 단계의 발전을 거쳤습니다. 이 진화의 세부 사항과 — 현재 Deep Agents로 불리는 시스템의 아키텍처 — 는 LangChain 플랫폼이 2026년 6월 12일 공개한 Box AI 엔지니어링 팀과의 인터뷰를 통해 상세히 문서화되었습니다.

Box AI의 세 세대

1단계 — 단일 문서 Q&A: 첫 번째 구현은 단일 파일 내에서 질문을 할 수 있게 했습니다. 독립적인 분석에는 유용했지만, 여러 소스의 정보를 종합하는 능력은 없었습니다.

2단계 — Knowledge Hubs(RAG): 다음 단계는 미리 정의된 문서 세트에 대한 쿼리를 허용하는 RAG 기반 레이어를 도입했습니다. 이 접근법은 유용성을 높였지만, 지식 소스를 사전에 정의해야 했고 복잡한 문서 간 관계를 동적으로 이해할 수 없었습니다.

3단계 — Deep Agents: 현재 아키텍처는 완전한 에이전트 패러다임 위에 구축됩니다. 시스템은 수천 개의 문서를 분석하고, 복잡한 맥락적 연결을 이해하며, 이전 세대가 생성할 수 없었던 종합적 결론을 도출할 수 있습니다.

동적 parent/child 구조가 핵심인 이유는?

Deep Agents 아키텍처의 핵심은 글로벌 에이전트(parent)가 요청을 받아 사용자 의도를 분류하는 계층적 모델입니다. 이 분류를 바탕으로 parent는 — 사전에 정의된 것이 아니라 — 실행 시점에 특정 작업에 맞게 조정된 child 에이전트를 동적으로 생성합니다.

대안적 접근법과의 주요 차이점: parent와 child 에이전트는 동일한 도구 레지스트리를 사전 정의된 전문화 없이 공유합니다. 요청이 단순하면 parent는 child 에이전트 없이 즉시 응답할 수 있습니다. 작업이 복잡하고 다차원적이라면, parent는 어떤 child를 생성하고 어떤 도구를 할당할지 결정합니다. Child 에이전트는 격리된 컨텍스트 창에서 작동하여 상호 컨텍스트 오염을 방지하고 더 깔끔한 병렬 실행을 가능하게 합니다.

도구 레지스트리에는 BM25 키워드 검색, 벡터 검색, 테이블에 대한 구조화된 Q&A, 파일 작업이 포함됩니다. Box 팀은 단일 도구 레지스트리가 동적 서브세팅보다 더 효과적이라는 결론을 내렸습니다 — 에이전트는 항상 사용 가능한 기능에 대한 완전한 가시성을 갖습니다.

개발 속도: 3개월에서 3주로

Box 팀은 parent/child 아키텍처가 하드코딩된 전문화된 하위 에이전트 기반의 이전 방식보다 4배 빠르게 제공되었다고 밝힙니다. 이전 설계가 3개월의 개발 기간을 필요로 했다면, 새 시스템은 약 3주 만에 준비되었습니다. 새 에이전트의 반복 주기는 약 2주로 단축되어, Box는 긴 개발 사이클 없이 새로운 비즈니스 요구사항에 빠르게 대응할 수 있습니다.

또한 팀은 아키텍처 자체의 유연성 덕분에 3배 빠른 반복을 경험하고 있다고 밝힙니다 — 위임 로직의 변경이 전문화된 에이전트 간의 하드코딩된 연결을 다시 작성할 필요가 없습니다.

모델-불가지론적 설계와 컨텍스트 관리

Box는 LLM 제공업체 선택에 완전히 무관한 추상화 계층을 구축했습니다. 클라이언트는 시스템 비즈니스 로직을 변경하지 않고 OpenAI, Anthropic, Google 모델을 사용할 수 있습니다.

맞춤형 미들웨어는 여러 핵심 운영 과제를 해결합니다:

• 스트리밍 응답을 위한 병렬 인용 생성 — 메인 흐름을 차단하지 않고
• 반복 요청의 레이턴시를 줄이는 다회전 대화를 위한 프롬프트 캐싱
• 대화 기록이 170,000토큰을 초과하면 자동 컨텍스트 요약 — 모델이 응답의 일관성을 잃지 않도록 보장하는 임계값

보안과 권한: 타협 없는 접근

엔터프라이즈 플랫폼의 기본 요구사항 중 하나는 기존 보안 모델 준수입니다. Deep Agents 시스템은 Box의 권한 모델을 우회하지 않습니다 — 수천 개 문서에서의 정보 종합은 오직 요청을 제출한 사용자의 접근 권한 범위 내에서만 이루어집니다. 보안 통합은 사후에 추가된 것이 아니라, 개발 초기부터 아키텍처적 요구사항이었습니다.

Box의 경험은 엔터프라이즈 AI 적용에서 점점 더 자주 나타나는 트렌드를 문서화합니다: 경직된 사전 정의된 에이전트 네트워크는 런타임에 — 시스템 설계 단계가 아니라 — 위임 결정을 내리는 동적 계층 구조보다 낮은 결과를 냅니다.