AMD: Ryzen AI Max+ 395が最大1220億パラメータのLLMモデルを統合メモリで動作させる
AMD ROCmブログは、UMA（統合メモリアーキテクチャ）を採用したRyzen AI Max+ 395プロセッサでのLLM推論に関する詳細な分析を公開しました。128 GB LPDDR5Xメモリを搭載したシステムは、完全GPUオフロードでQwen3.5 35B MoEモデルにおいて42トークン/秒を達成し、CPUとGPUメモリを組み合わせることで最大1220億パラメータのモデルもサポートします。
この記事はAIにより一次情報源から生成されました。
AMD Ryzen AI Max+はローカルLLM推論に何をもたらすのか？
AMDはROCmブログにて、ノートPC・ミニPCデバイス向けAMD Ryzen AI Maxラインアップの最上位チップであるRyzen AI Max+ 395プロセッサのLLM推論能力に関する詳細な分析を公開しました。このプロセッサの主な優位点は、UMA（Unified Memory Architecture：統合メモリアーキテクチャ）にあります。UMAでは、CPUと統合GPU Radeon 8060Sが128 GB LPDDR5Xメモリの同じ物理メモリプールを共有します。
独立したVRAMを持つディスクリートGPUとは異なり、Ryzen AI Max+プロセッサはCPUとGPU間でメモリをシームレスに共有できるため、ローカルLLM推論における主要な制約の一つを事実上排除します。
テスト済みモデルの具体的なベンチマーク結果は？
テストはUbuntu 24.04 LTS、ROCm 7.2.1、Ollama 0.20.xの環境でQ4_K_M量子化モデルを使用して実施されました。
| モデル | サイズ | 生成速度 | GPUオフロード |
|---|---|---|---|
| Qwen3.5 9B | 6.2 GB | 29.84トークン/秒 | 100% GPU |
| Qwen3.5 35B-A3B（MoE） | 20.5 GB | 42.04トークン/秒 | 100% GPU |
| Qwen3.5 122B-A10B（MoE） | 76 GB | 8.59トークン/秒 | 61% GPU / 39% CPU |
特に興味深いのはQwen3.5 35B-A3B MoE（Mixture-of-Experts：専門家の混合）モデルの結果です。パラメータ数がはるかに多いにもかかわらず、より小さな9Bモデルを上回っています。これは、MoEアーキテクチャが1トークンあたり30億パラメータのみをアクティブにし、残りは非アクティブのままにするためです。
Ryzen AI Max+はプロフェッショナルユーザーにどのように位置付けられるか？
インタラクティブな用途向けにAMDはQwen3.5 35B-A3Bを推奨しており、42トークン/秒という流暢なチャット体験に十分な速度を提供します。最大容量が必要な場合はQwen3.5 122B-A10Bが利用可能で、GPUの64GB容量を超えるため自動的にGPUとCPU間でワークロードを分散し、8.59トークン/秒を達成します。
Ryzen AI Max+ 395は、高いメモリ帯域幅を持つApple M4 Maxチップが支配していたセグメントにAMDを直接位置付けますが、オープンなROCmエコシステムとOllamaや関連ツールとのLinux互換性という優位性を持っています。
よくある質問
- AMD Ryzen AI Max+におけるUMAアーキテクチャとは何ですか？
- UMA（統合メモリアーキテクチャ）は、CPUとGPUが128 GB LPDDR5Xの同じ物理メモリプールを共有する設計です。これにより、従来のVRAM容量制限を超えるLLMモデルの実行が可能になります。
- Ryzen AI Max+は35Bモデルでどの程度の推論速度を達成しますか？
- Ryzen AI Max+ 395は、完全GPUオフロードでQwen3.5 35B-A3B MoEモデルにおいて42.04トークン/秒の生成速度と、154.52トークン/秒のプロンプト処理速度を達成します。
- Ryzen AI Max+で1220億パラメータのモデルを動作させることはできますか？
- はい、Qwen3.5 122B-A10BはRyzen AI Max+上でGPU（61%）とCPU（39%）への自動分散により動作し、テキスト生成時に8.59トークン/秒を達成します。
📬 AIニュースをあなたの受信箱へ
毎日のダイジェストを自分仕様に——トピック、ソース、頻度を選べます。ワンクリックで解除。