AMD: ROCm上的SGLang Diffusion将图像生成与编辑带到Instinct GPU——来自LLM领域的推理框架向扩散模型扩展
AMD发布了在Instinct GPU上通过ROCm技术栈运行SGLang Diffusion的教程，支持图像生成与编辑扩散模型。SGLang最初因加速大型语言模型而流行，现在将支持范围扩展至图像扩散领域，从而增强AMD在NVIDIA生态之外的AI推理产品竞争力。
本文由人工智能基于一手来源生成。
2026年7月10日，AMD在ROCm博客上发布了通过SGLang Diffusion在Instinct GPU上运行扩散模型的教程。扩散模型是图像生成（Stable Diffusion、FLUX）的核心，而推理——即运行已训练模型——需要优化的软件层才能实现高速、高效的执行。
为何将SGLang用于扩散模型？
SGLang（Structured Generation Language）推理框架凭借RadixAttention缓存等技术在加速大型语言模型方面声名鹊起。其向图像扩散领域的扩展意味着同一优化服务层现在可在同一框架下覆盖两大主要模态类别——文本与图像。AMD的教程展示了在ROCm技术栈上对扩散模型进行服务部署与基准测试，尽管发布的摘要未给出具体性能数据。
战略背景
对AMD而言，Instinct硬件上的每一条优化推理路径都是争夺市场份额的战场，而该市场目前由NVIDIA主导。AMD硬件在原始算力上往往不落下风，但软件生态——CUDA、cuDNN、TensorRT——是NVIDIA数十年来构筑的护城河。在ROCm上支持SGLang等流行开源框架可降低迁移成本：已在使用SGLang进行LLM推理的团队，无需学习新工具链即可将其用于图像生成。
实际意义
生产环境中的图像生成推理消耗大量GPU资源，因此选择更具成本效益的硬件直接意味着节省开支。此次发布是AMD在2026年7月更广泛努力的一部分——同周还推出了Python DSL FlyDSL——旨在使ROCm成为AI工作负载的有力替代方案，不仅限于模型训练，更涵盖向终端用户提供模型服务。
常见问题
- 什么是SGLang Diffusion？
- SGLang推理框架的扩展——原本专为大型语言模型设计——现已支持用于图像生成与编辑的扩散模型。
- 为何能在AMD GPU上运行如此重要？
- 因为这将图像生成推理的硬件选择扩展到了NVIDIA CUDA生态之外，使AMD Instinct加速器通过ROCm技术栈成为可行方案。