GitHub：Copilot HyDRA 라우터가 모델을 자동 선택하여 품질 유지와 함께 72.5% 비용 절감을 달성했습니다

GitHub는 HyDRA 를 발표했습니다. 이는 Copilot이 각 작업에 가장 적합한 AI 모델을 자동으로 선택하여 품질 손실 없이 비용을 절감할 수 있도록 하는 모델 라우터입니다.

작업 복잡도에 따른 라우팅

HyDRA는 네 가지 기준으로 AI 모델을 선택하는 모델 라우터입니다. 추론 깊이, 코드 복잡도, 디버깅 난이도, 도구 오케스트레이션 필요성입니다. 모든 쿼리를 동일한 대형 모델로 보내는 대신, 단순한 작업에는 저렴한 모델을, 복잡한 작업에는 고성능 모델을 배정합니다. 이를 통해 간단한 쿼리에 비싼 추론 리소스를 낭비하는 것을 방지합니다.

경쟁사 대비 정량적 비용 절감

GitHub는 품질을 유지하면서 72.5%의 비용 절감 을 보고했습니다. 보수 모드에서 HyDRA는 작업 해결률 70.8% 를 달성하며 OpenRouter Auto보다 3.3배 저렴합니다. 또한 반복 접두사에 대해 모델 상태를 재사용하여 중복 처리를 줄이는 프롬프트 캐싱과, 모든 정의를 미리 로드하는 대신 필요에 따라 도구 정의를 가져오는 도구 검색이 추가되었습니다.

다른 언어에서는 어떻게 작동합니까?

19개 언어와 16개 언어 계열에서 라우팅 정확도가 영어 기준 대비 4퍼센트포인트 이내 에 머물러, 다국어 사용자도 모델 선택 품질에서 불이익을 받지 않습니다. 자동 모드는 캐시의 자연스러운 경계(첫 번째 차례 또는 압축 후)에서만 활성화되어 캐시 효율성을 유지합니다.