마이크로소프트, 자체 AI 칩 '마이아100' 공개

자체 설계 Arm 아키텍처 CPU '애저 코발트'도 발표

마이크로소프트가 인공지능(AI) 학습과 추론을 위한 자체 설계 칩 '마이아100'을 공개했다. 동시에 Arm 아키텍처 기반의 CPU '코발트'도 함께 선보였다. 자체 AI 가속 칩 공개로 마이크로소프트는 애저 클라우드 서비스의 생성 AI 인프라에 대한 수직적 통합을 더 강화하게 됐다.

마이크로소프트는 15일(현지시간) 미국 시애틀에서 개최한 연례 고객 컨퍼런스 '마이크로소프트 이그나이트2023'에서 AI 인프라 업데이트를 발표했다.

이날 공개된 '마이아(Maia) 100'은 마이크로소프트가 직접 설계한 AI 가속기 '애저 마이아' 시리즈의 첫 세대 제품이다. 마이아100은 1천50억개의 트랜지스터를 갖췄고 5나노미터(nm) 공정으로 만들어졌다.

마이크로소프트 AI 가속기 '마이아100'

마이크로소프트는 애저 AI 인프라에 최적화되도록 실리콘, 소프트웨어, 네트워크, 랙, 냉각 기능 전반을 혁신했다고 밝혔다. 또 GPT 같은 생성 AI의 요구사항을 충족하도록 맞춤화된 엔드투엔드 시스템 최적화를 제공한다고 강조했다.

애저 코발트는 최적의 성능과 와트 효율성을 갖추도록 구축된 64비트 128코어 CPU다. 마이크로소프트는 애저 코발트의 첫 세대인 '코발트100'을 사내 인프라 스택에 적용해 기존 애저 Arm 칩 대비 40% 향상된 성능을 제공한다고 설명했다. 코발트는 마이크로소프트 팀즈, 애저 SQL 등의 서비스에 활용된다.

마이크로소프트 Arm 기반 CPU '코발트100'

마이크로소프트는 마이아100과 코발트100의 네트워킹과 스토리지 솔루션을 혁신했다고 강조했다. 두 칩 환경에선 원격 스토리지 성능이 최대 12.5GB 처리량을 기록해 데이터 집약적 워크로드를 빠르게 실행하고, 최대 200GB의 네트워크 대역폭으로 네트워크 집약적 워크로드도 지원한다고 밝혔다.

마이아100은 오픈AI에 우선 제공됐으며, 오픈AI는 사용 피드백을 전달해 최적화에 도움을 주고 있다고 한다. 마이크로소프트는 마이아100의 경우 내부 시스템용도로만 사용하고 일반 서비스로 제공하지 않는다고 밝혔다. 코발트100은 내부 적용을 거쳐 추후 일반 서비스로도 제공될 예정이다. 두 칩은 TSMC가 생산한다.

마이크로소프트는 이와 함께 내년 엔비디아의 최신 AI 칩인 H200 텐서코어 GPU 기반 가상머신(VM)을 모델 추론용으로 제공할 계획이라고 밝혔다. 또한 내년초 AMD의 MI300 가속기로 구동되는 AI 최적화 VM도 제공한다고 밝혔다.

사티아 나델라 마이크로소프트 최고경영자(CEO)는 "그동안 AI 산업은 엔비디아 인프라에 지나치게 의존했다"며 "마이아는 이를 극복함으로써 칩 시장을 원활하게 만들 것"이라고 말했다.

그는 "해당 인프라를 통해 전체 클라우드 서버 스택을 점검함으로써 AI 제품 성능, 전력, 비용까지 최적화할 수 있다"며 "회사는 AI 시대에 발맞춰 클라우드 인프라에 적극 투자하고 있으며 말 그대로 AI에 필요한 모든 인프라를 최적화할 것"이라고 강조했다.