PyTorch Foundation: sechs Open-Source-Projekte beschleunigen die KI-Entwicklung, FlexAttention jetzt 12-mal schneller

Die PyTorch Foundation vereint sechs Open-Source-Projekte

Die PyTorch Foundation, eine im April 2025 gegründete Multi-Projekt-Stiftung, vereint heute sechs Open-Source-Projekte: PyTorch, vLLM, DeepSpeed, Ray, Helion und weitere Komponenten des Machine-Learning-Ökosystems. Eine gemeinsame Steuerung ermöglicht die koordinierte Entwicklung von Tools für Training, Serving und Modelloptimierung.

Wie viel schneller ist FlexAttention in PyTorch 2.13?

Die neue Version PyTorch 2.13 bringt FlexAttention, einen Attention-Mechanismus, der auf Apple Silicon nun rund 12-mal schneller ist als in früheren Versionen. Die neue Funktion nn.LinearCrossEntropyLoss reduziert den benötigten GPU-Speicher um bis zu das 4-Fache, und im zweiten Quartal wurden 4.415 Commits verzeichnet — deutlich mehr als in vergleichbaren früheren Zeiträumen des Projekts.

Fortschritte bei vLLM, DeepSpeed, Ray Data und Helion

vLLM hat einen stabilen zweiwöchentlichen Release-Zyklus etabliert und seine erste eigene Konferenz vom 24. bis 26. August auf dem Ray Summit angekündigt. DeepSpeed veröffentlichte im ersten Quartal sechs Releases, und sein SuperOffload erhielt eine ehrenvolle Erwähnung für das beste Paper auf der Konferenz ASPLOS 2026. Ray und vLLM erzielen auf AMD-MI325X-GPUs bei der Prefill-Decode-Disaggregation eine Einsparung von 67 Prozent, während das kommende Ray Data 2.57 eine komplett neue High-Performance-Engine ankündigt. Helion erreicht ein 10-mal schnelleres Autotuning und Spitzenergebnisse (State-of-the-Art) auf den Architekturen NVIDIA Blackwell und Google TPU.