AMD: AIMs 2.2, Instinct·EPYC·Radeon 위한 추론 마이크로서비스 제공

AMD Intelligence Modules란 무엇이며 버전 2.2의 새 기능은?

AMD Intelligence Modules(AIMs) 버전 2.2는 표준화된 Docker 추론 마이크로서비스입니다—즉, API를 통해 AI 모델을 제공하는 즉시 사용 가능한 컨테이너화 서비스로, AMD 하드웨어에 맞게 조정된 자동 구성 기능을 갖추고 있습니다. 각 가속기별로 드라이버, 라이브러리, 파라미터를 수동으로 조정하는 대신, AIMs 패키지는 사용 가능한 하드웨어를 자동 감지하여 최적 설정을 적용합니다. 버전 2.2는 세 가지 클래스의 AMD 하드웨어로 지원을 확장합니다: Instinct 데이터센터 GPU, EPYC 서버 프로세서, Radeon 전문가용 GPU. 가속기 유형별로 별도 설치 절차가 필요한 솔루션과 비교하여 AIMs는 통합된 배포 패턴을 제공합니다.

어떤 모델이 어떤 하드웨어에서 실행되는가?

AMD는 각 플랫폼별로 참조 모델을 정의했습니다. Instinct GPU(MI300X, MI325X, MI350X, MI355X)에서는 Gemma-4 31B와 Mistral-Small 24B가 지원되며, 이 고성능 모델들은 해당 가속기의 대용량 HBM 메모리를 활용합니다. EPYC CPU(9965 모델)에서는 Llama-3.1 8B, 4B~35B 파라미터의 Qwen3, GPT-OSS 20B가 실행되어 EPYC를 GPU 없는 CPU 전용 추론 플랫폼으로 자리매김합니다. Radeon 전문가용 GPU(W7900, R9700 Pro)는 Llama-3.1 8B, 시각-언어 작업을 위한 Qwen3-VL 8B, 컴팩트 멀티모달 모델 Gemma-3n E4B를 지원합니다.

AIMs 2.2는 프로덕션에서 어떻게 배포되는가?

Kubernetes 환경에서 Helm 차트를 통해 배포되므로, AIMs 마이크로서비스는 AMD 전용 운영 도구 없이 표준 클라우드 네이티브 파이프라인에 통합됩니다. AMD는 버전 2.2와 함께 Document Summarization Blueprint—188개 CPU 코어와 128GB RAM 구성의 프로덕션용 참조 아키텍처—도 발표합니다. 비교하면, 유사한 NVIDIA Triton Inference Server 배포는 일반적으로 model_repository 구성의 수동 정의와 모델별 별도 최적화 단계를 요구하지만, AIMs는 이를 하나의 자동 구성 절차로 압축합니다.

이것이 AMD의 AI 생태계 내 위치에 왜 중요한가?

AIMs 2.2는 AI 추론을 위한 AMD 하드웨어의 더 광범위한 채택을 가로막는 가장 큰 장벽 중 하나를 직접 해결합니다: NVIDIA CUDA 생태계와 비교한 ROCm 환경 설정의 복잡성. 표준화된 Docker 패키지를 통해 AMD는 전환 마찰을 줄입니다—특히 MLOps 프로세스에서 이미 Kubernetes와 Helm을 사용하는 팀에게. 데이터센터 GPU부터 데스크톱 Radeon 카드까지 세 가지 클래스의 하드웨어 지원은 AMD가 클라우드와 엣지를 모두 커버하는 수직 통합 추론 스택을 구축하고 있음을 시사합니다.