CNCF：인프라 엔지니어, AI 에이전트로 60개 이상의 Kubernetes 리소스를 30분 만에 마이그레이션

CNCF 블로그는 2026년 4월 23일 AI 에이전트가 인프라 마이그레이션을 대폭 가속화할 수 있음을 보여주는 사례 연구를 발표했습니다. Alibaba Cloud의 Tianyi Zhang은 완전한 검증을 포함하여 60개 이상의 Kubernetes 리소스를 Ingress NGINX에서 Higress로 30분 만에 마이그레이션한 과정을 설명했습니다.

배경：왜 Ingress NGINX에서 마이그레이션합니까?

Ingress NGINX는 수년간 Kubernetes 클러스터에서 인바운드 트래픽을 관리하는 사실상의 표준이었습니다. 이 CNCF 프로젝트는 서비스 앞단에 리버스 프록시로 자리하여 라우팅, TLS 종료 및 기본 로드 밸런싱을 처리합니다.

그러나 점점 더 많은 조직이 인프라를 통해 LLM 모델을 제공하게 되면서 전통적인 인그레스 컨트롤러의 한계가 드러나고 있습니다. LLM 서비스 트래픽에는 특수성이 있습니다——가변적인 응답 길이, 스트리밍, 토큰당 높은 비용——이는 기존의 속도 제한으로는 잘 처리되지 않습니다.

Higress는 무엇을 제공하며 AI 네이티브인 이유는 무엇입니까?

Higress는 Envoy 프록시와 Istio 컴포넌트를 기반으로 한 게이트웨이로, Alibaba Cloud 내부에서 개발되어 CNCF 커뮤니티에 기여되었습니다. Ingress NGINX와의 핵심적인 차이점은 내장된 AI 기능입니다.

Higress는 토큰 기반 속도 제한을 네이티브로 지원합니다——요청 수가 아닌 LLM 토큰 수로 제한합니다. 또한 의미적으로 유사한 쿼리에 대한 응답을 캐시에서 제공하는 시맨틱 캐싱 기능도 있어 비용이 높은 LLM 호출을 절약할 수 있습니다. AI 애플리케이션을 제공하는 인프라에서 이는 비용과 지연 시간에 대한 중요한 최적화입니다.

30분에 60개 리소스가 의미하는 것은 무엇입니까?

전통적인 방식으로는 60개 이상의 Kubernetes 인그레스 리소스를 마이그레이션하려면 두 시스템 간의 어노테이션을 신중하게 매핑하고, 각 경로를 수동으로 테스트하고, TLS 인증서를 검증해야 합니다. 엔지니어 한 명이 하루에서 이틀을 소비합니다.

Zhang의 보고서에 따르면 AI 에이전트가 매핑과 새 매니페스트 생성을 수행하고, dry-run을 통한 검증을 실행하여 기능을 확인했습니다. 이는 AI 에이전트가 실험적 단계에서 인프라 팀의 프로덕션 활용 단계로 이동하고 있다는 신호로, DevOps 조직의 MTTR과 운영 비용에 직접적인 영향을 미칩니다.