PyTorch：Triton 3.7がプラグイン拡張とTLXを導入——AMD MI350でスループット最大+15%

Tritonが動的プラグインシステムを搭載

Triton——GPUカーネル（特定の演算を実行する最適化されたGPUルーチン）を記述するためのオープンソースプログラミング言語——は、バージョン3.7において環境変数TRITON_PLUGIN_PATHSを通じた新たな拡張メカニズムを導入します。これは動的プラグインシステムであり、開発チームがTritonを再コンパイルしたりリポジトリをフォークしたりすることなく、独自のコンパイラパスや最適化を追加できるようにするものです。重要な点として、動的読み込みによるオーバーヘッドは一切ありません——コード生成は組み込み実装と同一です。

MetaのTLX：H100とAMD MI350における定量的な改善

新システムのリファレンス実装として、TLX（Triton Language Extensions）が登場します。これはNVIDIAとAMDエコシステム向けのスタンドアロンライブラリutlxとして提供されるMetaのパッケージです。H100 GPUにおいて、TLX搭載のTritonはLLMワークロードでNVIDIAのcuBLASを**+3.7%**上回り、573.2 TFLOPSに達しました。cuBLASはNVIDIAの手作業で最適化された線形代数ライブラリであり、長年にわたってパフォーマンスのゴールドスタンダードとされてきました。

AMD側での改善はさらに顕著です。AMD MI350 GPUにおいて、TLXはAMDのrocBLASと比較して**+12〜15%のスループット向上を実現します。GPUMode Trimulベンチマークでは1.61倍の高速化を記録——行列乗算の処理時間が19.2ミリ秒からわずか12.0ミリ秒**に短縮されました。

AIエコシステムへの意味とは？

プラグインシステムは、TLXのようなプロジェクトが以前は複雑な配布なしにエンドユーザーへ届けられなかった扉を開きます。従来のアプローチとの違いは方針にあります。チームがTritonをフォークして最適化を手動で統合する代わりに、環境変数一つで有効化できるスタンドアロンパッケージを配布できるようになります。最適化されたカーネルライブラリにおいてNVIDIAに遅れをとっていたAMDエコシステムにとって、MI350での+12〜15%の改善は、LLM推論・学習シナリオにおけるパフォーマンスパリティに向けた重要な前進です。

---

出典：PyTorch Blog