Microsoft：AIクエリ1件あたりのエネルギー消費量は従来の推定より4〜20倍低く、8〜20倍の節約が可能

Microsoftの新しい分析は、AIクエリ1件あたりの実際のエネルギー消費量が、一般の認識や従来の研究の推定よりも大幅に低いことを示しています——4〜20倍低いのです。

AIクエリ1件あたりの実際のエネルギー消費量は？

Microsoftの測定によると、平均的なAIクエリは0.16〜0.60 Whのエネルギーを消費します。これはパソコンが15〜60秒稼働するのと同程度です。背景として：1日10億件のクエリは約0.7 GWhを必要としますが、最適化により0.4 GWh未満に削減できます——Microsoftはこれをアメリカの家庭のテレビ消費電力の約0.4%に例えています。

なぜ従来の推定は過大評価されていたのですか？

Microsoftは、従来の研究が大規模運用で達成される効率を考慮していなかったため、エネルギーと水の消費量が過大評価されたと指摘しています。新しいデータによると、冷却のためのクエリあたりの水消費量は0〜0.067 mL——水1滴にも満たない量です。推定の差は、個々のクエリが最適化されたデータセンターで処理されるのであり、非効率な孤立した環境で処理されるのではないことから生じています。

どのようにして8〜20倍の効率化を達成しますか？

Microsoftは効果が乗算される3つの最適化軸を特定しています：モデル最適化（5〜10倍）、リクエストバッチ処理などのサービング技術（最大5倍）、ハードウェアの進化（1.5〜2.5倍）。組み合わせることで、現在または近い将来の技術で、クエリあたりのエネルギー消費を8〜20倍削減できます。

これがAIエネルギー議論で重要な理由は？

AIのエネルギーフットプリントは公開討論の中心的なテーマとなっており、Microsoftのデータは粗い推定の代わりにより正確な数字を提供しています。測定結果は、より持続可能なAIへの主要な道がクエリ数の削減ではなく、モデル、サービング、ハードウェアを通じたエンジニアリング最適化にあることを示唆しています。