PyTorch Foundation:6つのオープンソースプロジェクトがAI開発を加速、FlexAttentionは12倍高速に
2025年4月発足のマルチプロジェクト財団であるPyTorch Foundationは、6つのオープンソースプロジェクトを傘下に持っています。PyTorch 2.13では、FlexAttentionがApple Siliconで12倍高速化し、GPUメモリ使用量が最大4分の1に削減され、第2四半期には4,415件のコミットが記録されました。vLLM、DeepSpeed、Ray Data、Helionも進歩を遂げています。
この記事はAIにより一次情報源から生成されました。
PyTorch Foundationが6つのオープンソースプロジェクトを統括
2025年4月に設立されたマルチプロジェクト財団であるPyTorch Foundationは、現在PyTorch、vLLM、DeepSpeed、Ray、Helion、そして機械学習エコシステムのその他のコンポーネントという6つのオープンソースプロジェクトを傘下に持っています。共通のガバナンスにより、モデルの訓練、提供、最適化をカバーするツールの協調的な開発が可能になっています。
PyTorch 2.13でFlexAttentionはどれだけ高速になったのか?
新バージョンのPyTorch 2.13には、以前のバージョンと比べてApple Siliconで約12倍高速になったアテンション機構FlexAttentionが搭載されています。新機能nn.LinearCrossEntropyLossは必要なGPUメモリを最大4分の1に削減し、第2四半期には4,415件のコミットが記録され、プロジェクトのこれまでの同等期間と比べて大幅に増加しました。
vLLM、DeepSpeed、Ray Data、Helionの進歩
vLLMは安定した2週間ごとのリリースサイクルを確立し、8月24日から26日にかけてRay Summitで開催される初の独自カンファレンスを発表しました。DeepSpeedは第1四半期に6回のリリースを行い、そのSuperOffloadはASPLOS 2026カンファレンスでベストペーパーのオナラブルメンションを受賞しました。RayとvLLMはAMD MI325X GPU上でprefill-decode分離により67%のコスト削減を達成し、近日公開予定のRay Data 2.57はまったく新しい高性能エンジンを予告しています。Helionは10倍高速なオートチューニングを実現し、NVIDIA BlackwellとGoogle TPUアーキテクチャで最先端(state-of-the-art)の結果を達成しています。
よくある質問
- PyTorch Foundationとは何ですか?
- PyTorch Foundationは、2025年4月に設立されたマルチプロジェクト財団で、PyTorch、vLLM、DeepSpeed、Ray、Helionを含む機械学習エコシステムの6つのオープンソースプロジェクトを傘下に持っています。
- FlexAttentionとは何で、どれくらい高速になりましたか?
- FlexAttentionはPyTorchのアテンション機構で、バージョン2.13ではApple Siliconで約12倍高速に動作します。また、新機能nn.LinearCrossEntropyLossにより必要なGPUメモリが最大4分の1に削減されます。
📬 AIニュースをあなたの受信箱へ
毎日のダイジェストを自分仕様に——トピック、ソース、頻度を選べます。ワンクリックで解除。