AMD: AIMs 2.2 bringt Inference-Mikroservices für Instinct, EPYC und Radeon

Was sind AMD Intelligence Modules und was bringt Version 2.2?

AMD Intelligence Modules (AIMs) Version 2.2 sind standardisierte Docker-Inference-Mikroservices — also gebrauchsfertige containerisierte Dienste zur Bereitstellung von KI-Modellen per API — mit automatischer, auf AMD-Hardware zugeschnittener Konfiguration. Statt Treiber, Bibliotheken und Parameter für jeden Beschleuniger manuell einzustellen, erkennt das AIMs-Paket die verfügbare Hardware automatisch und wendet optimale Einstellungen an. Version 2.2 erweitert die Unterstützung auf drei AMD-Hardware-Klassen: Instinct-Datacenter-GPUs, EPYC-Serverprozessoren und professionelle Radeon-GPUs. Im Vergleich zu Lösungen, die für jeden Beschleunigertyp separate Installationsverfahren erfordern, bietet AIMs ein einheitliches Deployment-Muster.

Welche Modelle laufen auf welcher Hardware?

AMD hat für jede Plattform Referenzmodelle definiert. Auf Instinct-GPUs (MI300X, MI325X, MI350X und MI355X) stehen Gemma-4 31B und Mistral-Small 24B zur Verfügung — anspruchsvollere Modelle, die den großen HBM-Speicher dieser Beschleuniger nutzen. Auf dem EPYC CPU (Modell 9965) laufen Llama-3.1 8B, Qwen3 (4B bis 35B Parameter) und GPT-OSS 20B, was EPYC als leistungsfähige CPU-only-Inferenzplattform ohne GPU positioniert. Professionelle Radeon-GPUs (W7900 und R9700 Pro) unterstützen Llama-3.1 8B, Qwen3-VL 8B für visuell-sprachliche Aufgaben und Gemma-3n E4B, ein kompaktes multimodales Modell.

Wie wird AIMs 2.2 in der Produktion deployt?

Das Deployment erfolgt über Helm-Charts in Kubernetes-Umgebungen, sodass sich AIMs-Mikroservices ohne AMD-spezifische Betriebstools in Standard-Cloud-Native-Pipelines integrieren. AMD veröffentlicht zusammen mit Version 2.2 auch das Document Summarization Blueprint — eine Referenzarchitektur für den Produktionseinsatz mit einer Konfiguration von 188 CPU-Kernen und 128 GB RAM. Zum Vergleich: Ähnliche NVIDIA Triton Inference Server-Deployments erfordern typischerweise manuelle model_repository-Konfiguration und separate modellspezifische Optimierungsschritte; AIMs fasst dies in einem einzigen Auto-Konfigurations-Verfahren zusammen.

Warum ist das wichtig für AMDs Position im KI-Ökosystem?

AIMs 2.2 adressiert direkt eine der größten Hürden für die breitere Adoption von AMD-Hardware für KI-Inferenz: die Komplexität des ROCm-Setups im Vergleich zum NVIDIA CUDA-Ökosystem. Mit standardisierten Docker-Paketen reduziert AMD die Einstiegshürde, besonders für Teams, die bereits Kubernetes und Helm in ihren MLOps-Prozessen nutzen. Die Unterstützung für drei Hardware-Klassen — von Datacenter-GPUs bis hin zu Desktop-Radeon-Karten — deutet darauf hin, dass AMD einen vertikal integrierten Inference-Stack aufbaut, der sowohl Cloud- als auch Edge-Anwendungsfälle abdeckt.