Microsoft：AI 쿼리당 에너지 소비, 기존 추정치보다 4~20배 낮아——8~20배 절감 가능

Microsoft의 새 분석에 따르면 AI 쿼리당 실제 에너지 소비량이 일반의 인식이나 이전 연구의 추정치보다 4~20배 낮습니다.

AI 쿼리 1건의 실제 에너지 소비량은?

Microsoft의 측정에 따르면 평균 AI 쿼리는 0.16~0.60 Wh의 에너지를 소비합니다. 이는 개인용 컴퓨터가 15~60초 동안 작동하는 것과 비슷한 수준입니다. 맥락 비교로: 하루 10억 건의 쿼리는 약 0.7 GWh를 필요로 하지만 최적화를 통해 0.4 GWh 미만으로 줄일 수 있으며, Microsoft는 이를 미국 가정의 TV 전력 소비량의 약 0.4%에 해당한다고 비교했습니다.

이전 추정치가 과대평가된 이유는?

Microsoft는 이전 연구들이 대규모 운영에서 달성되는 효율을 고려하지 않아 에너지와 물 소비량을 과대평가했다고 지적합니다. 새 데이터에 따르면 쿼리당 냉각 용수 소비량은 0~0.067 mL로 물 한 방울에도 미치지 않습니다. 추정치의 차이는 개별 쿼리가 최적화된 데이터센터에서 처리되는 반면, 이전 추정은 비효율적인 독립 환경을 기준으로 했기 때문입니다.

8~20배 효율화는 어떻게 달성합니까?

Microsoft는 효과가 곱해지는 세 가지 최적화 축을 제시합니다: 모델 최적화(510배), 요청 배치 처리 등의 서빙 기술(최대 5배), 하드웨어 발전(1.52.5배). 세 가지를 조합하면 현재 또는 근미래 기술로 쿼리당 에너지 소비를 8~20배 절감할 수 있습니다.

AI 에너지 논의에서 이것이 중요한 이유는?

AI의 에너지 발자국은 공론화의 핵심 주제가 되었으며, Microsoft의 데이터는 개략적 추정치 대신 보다 정확한 수치를 제시합니다. 측정 결과는 더 지속 가능한 AI로 가는 주요 경로가 쿼리 수 감소가 아니라 모델, 서빙, 하드웨어를 통한 엔지니어링 최적화임을 시사합니다.