vLLM：Semantic Router Fusionがモデルパネルを統合し、審判モデルが単一回答を合成

vLLM——大規模言語モデル提供の人気ライブラリ——は、複数のモデルを1つの回答に統合するメカニズムであるSemantic Router Fusionを発表しました。

Fusionはどのように機能しますか？

Fusionはモデルパネルが並行実行されるプリミティブであり、特別な審判モデルが各回答のコンセンサスと差異を分析した後、単一の最終出力を合成します。パイプラインには明確なステップがあります：パネル実行、審判分析、合成、トレース記録（トークン、エラー、ルート）。このアプローチは、任意の個別メンバーよりも優れた決定を下す「モデル委員会」に似ています。

どのモデルとインターフェースをサポートしますか？

FusionはローカルvLLMインスタンスとプライベートエンドポイントに加え、Gemini、Kimi、DeepSeek、Claudeなどのパブリックプロバイダーもサポートします。3つの入力ルート（vllm-sr/auto、vllm-sr/fusion、およびリクエストレベルのプラグイン）を提供し、完全なOpenAI API互換性を備えているため、大規模なコード変更なしに既存の統合に組み込めます。

どれほど結果が向上しますか？

OpenRouter DRACOベンチマークでの外部検証では、**統合パネルが69%**を達成し、最良の単一モデルの65.3%を上回りました。この向上は、審判付きの複数モデル集約が各モデル単独を上回れるという考えを裏付けており、レイテンシとコストよりも精度が重要なタスクに有用です。