AMD：GEAKエージェントがMI355上でDeepSeek-V4 MLAカーネルを自動最適化、最大9倍の高速化を実現

AMDは、AMD MI355アクセラレータで動作するDeepSeek-V4モデルにGEAKエージェント——AIを活用したGPUカーネルの自動生成・最適化システム——を適用した結果を発表しました。PyTorchからTritonへの自動化された移行により、手動最適化では匹敵する時間での達成が難しい高速化がもたらされています。

MLAとTriton——核心的な概念

**MLA（多頭潜在アテンション）**は、DeepSeek-V4が古典的な多頭アテンションと比較してKVキャッシュコストを大幅に削減するために使用するメモリ効率の高いアテンション機構の変形です——モデルの重要なイノベーションですが、ハードウェア最適化が難しいものです。TritonはGPUカーネルを書くためのプログラミング言語で、アクセラレータのハードウェア特性を直接ターゲットにしています。汎用のPyTorchとは異なり、Tritonコードは AMD MI355アーキテクチャの特定のメモリ階層特性を活用できます。GEAKエージェントはまさにその移行を自動化します——手動でのTritonコード記述が不要です。

具体的な高速化：プリフィル、デコード、エンドツーエンド

AMD MI355での測定は推論のすべてのフェーズで明確な向上を示しています。プリフィルフェーズ（入力プロンプトの処理）では、元のPyTorch実装と比較して設定1で9.13倍、設定2で6.92倍の高速化。デコードフェーズ（トークン生成）では、26の異なる設定での幾何平均高速化は4.94倍。SGLangフレームワークでのエンドツーエンドではGEAKによりスループット2.10倍向上とTTFT（初回トークン時間）3.71倍短縮を実現しており、これはユーザー体験の重要なパラメータです。

SGLang統合と精度検証

SGLangフレームワークとの統合は、並行レベル（2〜32の同時リクエスト）に応じてエンドツーエンドで16%〜110%の改善を示しており、より高い並行性はより大きな相対的利益をもたらします。精度検証の結果は特に重要です：304個のプリフィルと4,748個のデコードテストケースすべてが精度回帰なしに合格しています。高速化は近似や精度の犠牲によって達成されたのではなく、純粋なハードウェアカーネル最適化によるものです。GEAKはこれにより、AI支援型GPUコード最適化が数週間の手動エンジニアリング作業に取って代わることができることを実証しています。