IBM: Red Hat AI Inference와 OpenShift Virtualization Service가 IBM Cloud에서 관리형 제품으로 출시
IBM은 오늘 Red Hat AI Inference Service와 Red Hat OpenShift Virtualization Service를 IBM Cloud의 관리형 엔터프라이즈 제품으로 발표했습니다. 전자는 오픈소스 LLM(Granite, Llama, Mistral)을 위한 최적화된 서빙 환경을 자동 스케일링 및 SLA 보장과 함께 제공하며, 후자는 동일한 OpenShift 컨트롤 플레인 내에서 VM과 컨테이너를 함께 실행할 수 있게 합니다. 목표: 자체 Kubernetes 인프라 없이 오픈소스 AI를 사용하려는 기업 팀의 운영 부담을 줄이는 것입니다.
이 기사는 AI가 1차 출처를 기반으로 생성했습니다.
IBM은 오늘 구체적으로 무엇을 발표했습니까?
IBM은 보스턴에서 열린 Think 2026 행사에서 IBM Cloud의 두 가지 관리형 제품을 발표했습니다. 첫 번째는 Red Hat AI Inference Service——오픈소스 LLM을 위한 관리형 추론 엔드포인트입니다. 두 번째는 Red Hat OpenShift Virtualization Service——동일한 OpenShift 컨트롤 플레인 내에서 컨테이너와 함께 기존 가상 머신(KVM)을 실행할 수 있게 하는 관리형 제품입니다. 두 제품 모두 최신 AI 스택을 원하지만 자체 Kubernetes 인프라를 구축하고 유지할 능력이 없는 기업 팀의 요구에 대한 응답입니다.
이것이 중요한 이유: 오픈소스 LLM 서빙은 실제로 간단하지 않습니다. Llama 4 또는 Granite 4.1을 로컬에서 실행하려는 팀은 프레임워크(vLLM, TGI, SGLang)를 선택하고, GPU(A100, H100, H200)를 프로비저닝하고, 자동 스케일링을 구성하고, 로드 밸런싱, 멀티테넌트 격리, 관측 가능성 문제를 해결해야 합니다. IBM은 이 복잡한 작업 전체를 하나의 관리형 제품으로 묶습니다——고객은 REST 엔드포인트와 SLA를 받고, GPU 노드 장애 전환을 걱정할 필요가 없습니다.
Red Hat AI Inference Service는 어떻게 작동합니까?
기술적으로, Red Hat AI Inference는 내부적으로 vLLM을 엔진으로 사용하며, IBM이 멀티테넌트 라우팅 및 할당량 관리 레이어를 추가했습니다. 모델 카탈로그에는 IBM Granite 4.1(지난달 발표), Meta Llama 4, Mistral Large 2, IBM의 OpenShift AI 파인튜닝 모델이 포함됩니다. 가격: 「공유」 티어는 토큰 단위(OpenAI/Anthropic API와 유사), 「전용」 티어는 GPU 시간 단위(일정한 QPS를 가진 워크로드에 대해 더 예측 가능한 비용).
OpenShift Virtualization Service는 동시에 또 다른 문제를 해결합니다: 기업 팀은 VM에 존재하는 레거시 애플리케이션(Java EE, 데이터베이스)을 가지고 있지만 컨테이너로의 점진적인 마이그레이션을 원합니다. 동일한 컨트롤 플레인에서 두 워크로드를 모두 실행함으로써 네트워크 정책, RBAC 및 관측 가능성이 통합됩니다.
IBM은 왜 지금 이것을 발표합니까?
타이밍은 전략적입니다. AWS는 어제(5월 11일) Claude Platform GA를 발표했습니다——AWS 계정이 Anthropic 스택의 단일 온보딩 포인트가 됩니다. Google은 4월에 12개국에서 로컬 데이터 레지던시를 갖춘 Gemini Enterprise를 발표했습니다. IBM의 이 경쟁에서의 강점은 오픈소스 지향(온프레미스에서도 호스팅 가능한 모델)과 엔터프라이즈 급 컴플라이언스(FedRAMP High, HIPAA, 프랑크푸르트/마드리드의 EU 데이터 레지던시)입니다.
AI 인프라의 「빌드 대 구매」를 평가하는 기업 CIO에게 IBM의 제공은 특정 틈새를 채웁니다: 이미 온프레미스에서 OpenShift를 사용하는 팀은 이제 동일한 오케스트레이션으로 IBM Cloud에서 AI 워크로드를 실행하고, VM을 점진적으로 마이그레이션할 수 있습니다. 이는 구체적인 AI 제품을 제공하지만 고객에게 「자사 생태계에서 살도록」 요구하는 하이퍼스케일러에 대한 방어적 움직임입니다.
이것은 IBM Cloud 외부의 Red Hat 고객에게 무엇을 의미합니까?
Red Hat OpenShift AI(이전 이름: OpenShift Data Science)는 기업 팀이 AWS, Azure, GCP 또는 온프레미스에 배포할 수 있는 독립적인 제품으로 계속 사용 가능합니다. IBM의 관리형 서비스는 대체품이 아니라 이미 IBM Cloud를 사용하거나 완전한 관리형 경험을 원하는 고객을 위한 최적화입니다. 기반 기술(vLLM, Granite 모델, OpenShift Virtualization)은 오픈소스로 유지되어 벤더 락인 우려를 해소합니다——고객은 동일한 스택을 유지하면서 다른 클라우드로 마이그레이션할 수 있습니다.
자주 묻는 질문
- Red Hat AI Inference Service란 무엇입니까?
- Red Hat AI Inference Service는 오픈소스 LLM을 위한 관리형 추론 플랫폼입니다. IBM Cloud가 GPU 프로비저닝, 모델 로딩, 자동 스케일링 및 모니터링을 처리합니다——고객은 토큰 단위 또는 레플리카 단위로 지불합니다. 지원 모델: IBM Granite 제품군, Meta Llama, Mistral, 커스텀 파인튜닝 변형.
- 이 제품의 경쟁자는 누구입니까?
- 직접 경쟁자는 AWS Bedrock(Anthropic Claude, Mistral, Llama 호스팅), Azure AI Foundry(OpenAI + 오픈소스), Google Vertex AI Model Garden입니다. IBM의 차별화 요소: 기존 Red Hat OpenShift 환경과의 더 강력한 엔터프라이즈 통합, 로컬 데이터 레지던시, GPU 가용성에 관한 NVIDIA와의 파트너십.