구글클라우드, 7세대 TPU '아이언우드' 출시…"AI 추론 시대 가속"

앤트로픽 등 글로벌 기업 활용 확산…'액시온' VM 인스턴스 프리뷰 버전도 공개

구글클라우드가 맞춤형 반도체와 통합 아키텍처를 새로 출시해 글로벌 인공지능(AI) 인프라를 강화했다. 

구글클라우드는 7세대 텐서처리장치(TPU) '아이언우드'를 정식 출시했다고 7일 밝혔다. 또 새로운 ARM 기반 '액시온' 가상머신(VM) 인스턴스의 프리뷰 버전도 공개했다. 이번 발표는 AI 추론과 범용 컴퓨팅 전반에서 유연성과 효율성을 강화하려는 전략의 일환이다.

아이언우드는 구글의 통합 AI 슈퍼컴퓨팅 시스템 'AI 하이퍼컴퓨터'의 핵심 구성 요소다. 컴퓨팅 네트워킹 스토리지를 통합해 시스템 전반의 성능을 높이며 TPU v5p 대비 최대 10배, 트릴리움(v6e) 대비 최대 4배 높은 성능을 제공한다.

아이언우드 보드. (사진=구글클라우드)

최대 9천216개의 칩으로 구성된 슈퍼포드(superpod)는 9.6Tb/s의 초고속 네트워크 속도와 1.77PB의 고대역폭 메모리를 지원한다. 이를 통해 대규모 모델의 데이터 병목을 최소화하면서도 실시간 추론 환경을 구현할 수 있다.

구글클라우드는 광회로 스위칭 기술을 적용해 네트워크 장애 시에도 자동으로 경로를 재구성할 수 있게 지원한다. 필요한 경우 수십만 개의 TPU를 클러스터로 확장할 수 있어 AI 추론 성능을 극대화한다.

앤트로픽은 아이언우드를 활용해 클로드 모델 학습과 서비스 환경을 최적화하고 있으며 향후 최대 100만 개의 TPU 사용을 계획하고 있다. 글로벌 AI 기업 다수가 아이언우드 기반 워크로드 확장을 진행 중이다.

액시온은 ARM 네오버스 아키텍처 기반의 맞춤형 중앙처리장치(CPU)다. 효율적인 범용 컴퓨팅을 목표로 설계됐다. N4A VM은 x86 기반 VM 대비 최대 2배 높은 가격 대비 성능을 제공하며 마이크로서비스와 데이터 분석 등에 적합하다.

아이언우드 슈퍼포드. (사진=구글클라우드)

조만간 프리뷰 버전으로 출시될 C4A 메탈 인스턴스는 안드로이드 개발과 차량 내 시스템 등 전문 워크로드용 베어메탈 환경을 제공한다. 이를 통해 기업은 AI 학습용 아이언우드와 범용 CPU 액시온을 병행해 운영 효율을 높일 수 있다.

구글은 하드웨어와 소프트웨어를 공동 설계하는 AI 하이퍼컴퓨터 전략으로 성능을 극대화하고 있다고 밝혔다. 쿠버네티스 엔진의 클러스터 디렉터, 오픈소스 프레임워크 맥스텍스트, vLLM TPU 지원 강화, 추론 게이트웨이 기능 등도 함께 최적화됐다.

마크 로메이어 구글클라우드 AI 및 컴퓨팅 인프라 부문 부사장 겸 총괄 매니저는 "에이전트 워크플로와 컴퓨팅 수요의 기하급수적 증가는 오늘날 추론의 시대를 새롭게 정의하고 있다"며 "아이언우드와 액시온을 결합한 풀 스택 AI 하이퍼컴퓨터로 고객은 가장 까다로운 워크로드에서도 최적의 성능을 확보할 것"이라고 밝혔다.