🟡 📦 オープンソース 公開日: · 4 分で読めます ·

MiniMax M3がvLLMに登場:100万トークンコンテキストのDay-0サポート

社説イラスト:100万トークンコンテキストのMiniMax M3マルチモーダルMoEモデル向けvLLMサービス

vLLMチームはMiniMax M3のDay-0フルサポートを発表した――100万トークンのコンテキスト、ネイティブマルチモーダリティ、Mixture-of-Expertsアーキテクチャを持つモデルだ。主要なイノベーションはMiniMax Sparse Attentionであり、KVキャッシュを完全にマテリアライズすることなく長いコンテキストの実用的なサービングを可能にする。

🤖

この記事はAIにより一次情報源から生成されました。

vLLMチームは2026年6月12日、中国のAIスタートアップMiniMaxの新しいモデルMiniMax M3のDay-0フルサポートを発表した。MiniMax M3は100万トークンのコンテキスト、ネイティブマルチモーダリティ、Mixture-of-Experts(MoE)アーキテクチャを組み合わせている。この発表は、ローンチ初日に完全な機能パリティを持つvLLM内での長コンテキストMoEモデルの最初の大規模実装を示す。

なぜ100万トークンのコンテキストはサービングの課題なのか?

標準的なKVキャッシュはコンテキスト長に比例してリニアに成長する――BF16精度での100万トークンはアテンションの中間ステップのキャッシュのためだけで数百ギガバイトのGPUメモリを必要とする。KVキャッシュ全体をマテリアライズする従来のアプローチは現実的な構成では実行不可能になる。MiniMax M3はこの問題を、モデルが長いシーケンスにアクセスする方法を再定義するアーキテクチャ上のイノベーションである**MiniMax Sparse Attention(MSA)**で解決する。

MSAはKVキャッシュを128トークンのブロックに分割する。各クエリ――またはGQAクエリグループ――は軽量なインデクサースコアカーネルを通じてすべての利用可能なブロックをスコアリングし、実際のアテンション計算のために最も関連性の高いブロックのみを選択する。結果はメモリとコンピューティングの負担の劇的な削減だ:モデルは100万トークンを完全にマテリアライズする必要がなく、関連するセグメントに選択的にアクセスする。vLLMでの実装にはさらに、このデータアクセスパターンに特化して設計されたKVブロックメジャーのプリフィルレイアウトが使用される。

技術スタック:EAGLE3から専門家並列処理まで

MiniMax M3のサポートにはvLLMの機能の完全なセットが付属する。プレフィックスキャッシングチャンクプリフィルはMSAメカニズムと変更なしに動作する。ツールコールパーサー推論出力パーサーはネイティブなエージェント的応用を可能にし、thinking-modeコントロールはリクエストに応じて連鎖推論を動的にオンオフできる。

特に注目すべき追加機能はEAGLE3投機的デコーディングのサポートだ。EAGLE3のドラフトモデルは発表と共にHuggingFaceで利用可能であり、測定値は67%の投機的トークン受理率とステップあたり平均3.0トークンの長さを示している――実際にはメインモデルへの呼び出し回数とレイテンシの大幅な削減を意味する。

並列処理の面では、vLLMはMoEレイヤーのためにテンソル並列処理と専門家並列処理の両方をサポートしており、インフラのニーズに応じてモデルを分散できる。

ハードウェアの検証とバックエンドの詳細

MiniMax M3は6つのクラスのGPUプラットフォームで検証された。NVIDIA側:

  • H200(Hopperアーキテクチャ)――量子化推論にMarlin MXFP8バックエンドを使用
  • GB200とB300(Blackwellアーキテクチャ)――新世代ハードウェア向けに最適化されたDeepGEMMバックエンドを使用

AMD側:

  • MI300とMI350シリーズGPU

モデルはBF16MXFP8精度で利用可能であり、MXFP8バリアントはGPUアーキテクチャに応じた対応するMoEバックエンドを使用する。

ベンチマークで測定されたパフォーマンス

発表に示されたすべての結果はB300構成で測定された:

  • GSM8K91.51%(厳密なマッチ)/91.66%(柔軟なマッチ)――言語モデルの標準的な数学ベンチマーク
  • ShareGPTスループット(256同時リクエスト):毎秒8,530トークン
  • TPOT(Time Per Output Token):56.0ミリ秒
  • EAGLE3受理率67%、平均投機的シーケンス長3.0トークン

これらの結果は長いコンテキスト能力を犠牲にすることなく達成された――モデルは単一のB300構成で記載のスループットを維持しながら100万トークンの完全なキャパシティを保持する。

マルチモーダリティとエージェント的応用

MiniMax M3は純粋なテキストモデルではない。画像と動画のネイティブサポートはアーキテクチャに統合されており、別個のビジョンエンコーダーや追加の処理ステップは不要だ。ツールコールと推論パーサーと合わせて、モデルは視覚コンテンツの分析、複数ステップの推論、外部ツールの呼び出しを組み合わせた複雑なエージェント的タスクに対応する。

BF16とMXFP8フォーマットでの利用可能性――vLLMのすべての上記機能のDay-0サポートと合わせて――は、後続のアップデートや機能の制限を待つことなく初日から実用的なMiniMax M3の利用を可能にする。vLLMコミュニティとMiniMaxチームは共同で統合を開発しており、発表はローンチ当日の完全な機能パリティを達成するために緊密なコラボレーションが重要だったと述べている。

よくある質問

MiniMax Sparse Attentionとは何か?
MSAはKVキャッシュを128トークンのブロックに分割します。各クエリは軽量なインデクサースコアカーネルを通じてすべてのブロックをスコアリングし、実際のアテンション計算のために最も関連性の高いブロックのみを選択します――メモリ上に100万トークンを完全にマテリアライズすることなく。
MiniMax M3はvLLMでどのGPUプラットフォームで動作するか?
モデルはNVIDIA H200、GB200、B300、およびAMD MI300、MI350 GPUで検証されており、BlackwellではDeepGEMMバックエンド、HopperではMarlin MXFP8を使用します。
測定されたパフォーマンスはどの程度か?
GSM8K精度は91.51〜91.66%、ShareGPTスループットは毎秒8,530トークン、EAGLE3投機的デコーディングは67%の受理率で平均トークン長は3.0です。

📬 AIニュースをあなたの受信箱へ

毎日のダイジェストを自分仕様に——トピック、ソース、頻度を選べます。ワンクリックで解除。