DiffusionGemma in vLLM: erstes diskretes Diffusionsmodell mit 26 Milliarden Parametern in Produktionsumgebung integriert
DiffusionGemma ist ein Modell mit 26 Milliarden Parametern, das anstelle der klassischen Links-nach-rechts-Textgenerierung ein 256-Token-Canvas iterativ verfeinert. Die Teams von vLLM, Google DeepMind und NVIDIA erreichten 1.288 Token pro Sekunde auf einer H200-GPU — etwa sechsmal schneller als autoregressive Vergleichsmodelle.