구글 "제미나이 에너지 소비, TV 9초 수준"…1년 만에 탄소 배출 44배 ↓

12개월 만에 효율 '33배' 개선…자체 칩·초고효율 데이터센터가 비결

구글 인공지능(AI) '제미나이'의 에너지 소비량이 업계 통념보다 훨씬 적다는 구체적인 측정 결과가 나왔다.

27일 구글 기술 백서에 따르면 '제미나이' 앱의 중간값 텍스트 프롬프트 하나를 처리하는 데 드는 비용은 에너지 0.24와트시(Wh), 탄소 배출량 0.03그램(gCO2e), 물 소비량 0.26밀리리터(ml)에 불과했다. 이는 TV를 9초 미만으로 시청하는 수준의 에너지로, 많은 공개 추정치보다 상당히 낮은 수치다. 해당 분석은 지난 5월 데이터를 기준으로 이뤄졌다.

구글은 이번 결과가 업계의 다른 계산법보다 포괄적이라고 강조했다. 단순 연산에 쓰이는 활성 상태의 칩 전력만 측정하는 것은 실제 운영 현실을 과소평가하는 '낙관적 시나리오'에 불과하다고 지적했다.

구글클라우드 에너지 보고서 (사진=구글)

실제로 이 회사의 방법론은 실제 운영 환경을 반영하기 위해 ▲전체 시스템의 동적 전력 ▲유휴 장비 ▲CPU 및 RAM ▲데이터센터 오버헤드(PUE) ▲데이터센터 물 소비량 등 핵심 요소를 모두 포함했다.

이러한 포괄적 접근은 AI 모델 자체의 에너지뿐만 아니라 트래픽 급증에 대비하는 유휴 장비, 냉각 시스템 같은 데이터센터 인프라 전체의 동적 전력과 물 소비량까지 계산에 넣는다. 만약 활성 상태의 칩만 고려하는 비포괄적 방식으로 계산할 경우 에너지 소비량은 0.10Wh로 절반 이하로 떨어진다.

특히 구글은 지난 1년 사이 AI 효율이 극적으로 개선됐다는 점을 부각했다. 지난 12개월 동안 '제미나이' 앱의 중간값 텍스트 프롬프트당 에너지 및 총탄소 발자국은 각각 33배와 44배 감소했다. 이는 더 높은 품질의 응답을 제공하면서 동시에 달성한 성과다.

이러한 효율성 향상의 배경에는 구글의 '풀스택(full-stack)' AI 개발 접근 방식이 있다. 자체 설계한 하드웨어부터 모델 아키텍처, 소프트웨어 스택, 데이터센터 운영에 이르기까지 전 과정에 효율성을 내재화했다는 설명이다.

세부적으로는 ▲전문가 혼합(MoE) 같은 효율적 모델 구조 ▲정확한 양자화 훈련(AQT) 알고리즘 ▲추측성 디코딩 및 증류 같은 최적화된 추론 기술이 적용됐다. 이를 통해 더 적은 자원으로 더 빠르고 품질 높은 응답을 생성할 수 있게 됐다.

하드웨어와 인프라 역시 핵심적인 역할을 했다. 자체 제작한 최신 AI 가속기 '아이언우드(TPU)'는 첫 세대보다 에너지 효율이 30배 높다. 또 업계 최고 수준인 평균 1.09의 전력 사용 효율(PUE)을 기록한 초고효율 데이터센터와 수요에 따라 모델을 실시간으로 재배치해 유휴 전력을 최소화하는 관리 기술도 기여했다.

구글 측은 "'제미나이'의 효율성 향상은 수년간의 노력의 결실이지만 이는 시작에 불과하다"며 "연구 결과와 방법론을 공유함으로써 더 효율적인 AI를 향한 업계 전반의 진전을 이끌고자 하며 이는 책임감 있는 AI 개발에 필수적이다"라고 밝혔다.