MS, 자체 AI칩 '마이아300' 공개...내년 대규모 배치

전력당 토큰 처리량 40% 향상 목표, AI 추론 효율 개선

마이크로소프트(MS)가 자체 개발한 3세대 AI 가속기 '마이아 300(Maia 300)'을 공개했다. 내년부터 데이터센터에 배치해 자사 AI 제품과 서비스의 주요 추론 인프라로 활용한다. 엔비디아를 비롯한 외부 반도체 업체에 대한 의존도를 낮추고 AI 서비스 운영 비용을 줄이려는 전략이다.

12일(현지시간) MS 공식 발표에 따르면, 마이아 300은 대규모 AI 모델의 추론 작업에 특화된 자체 설계 반도체다. MS는 2027년부터 애저 마이아 제품군의 배치를 확대해 코파일럿과 애저 기반 AI 서비스에 활용할 계획이다.

스콧 거스리 MS 클라우드·AI부문 총괄부사장은 “2027년부터 애저 마이아 제품군을 수 기가와트 규모로 확대해 MS 제품과 서비스의 주요 AI 추론 시스템으로 만들겠다”고 밝혔다.

MS가 공개한 자체 개발 3세대 AI 가속기 '마이아 300'. 사진_MS

GPU보다 전력당 토큰 처리량 40% 개선

MS는 마이아 300이 주요 GPU 기반 시스템보다 메가와트당 토큰 처리량을 40% 높일 수 있을 것으로 예상했다. 같은 전력으로 더 많은 AI 추론 작업을 처리해 데이터센터의 운영 효율을 개선하겠다는 구상이다.

거스리 부사장은 “시스템 전반의 효율을 개선해 마이아 300이 주요 GPU 기반 시스템보다 메가와트당 40% 더 많은 토큰을 처리할 것으로 예상한다”고 설명했다. 다만, 비교 대상인 GPU 제품이나 구체적인 시스템 구성을 지목하지 않았다. 40% 개선 수치 역시 실제 대규모 운영 결과가 아닌 회사 측 예상치다.

마이아 300은 반도체뿐 아니라 소프트웨어, 서버 랙, 네트워크, 데이터센터 인프라까지 함께 설계한 것이 특징이다. 개별 칩 연산 성능보다 데이터센터 전체 AI 처리량과 전력 효율을 높이는 데 초점을 맞췄다.

MS에 따르면 마이아 300 가속기 96개로 구성된 서버 랙은 이전 세대인 마이아 200 기반 시스템보다 7배 높은 랙 단위 토큰 처리량을 제공한다.

거스리 부사장은 “마이아 300은 긴 문맥 처리와 메모리 집약적 작업, 디코딩 비중이 높은 AI 작업에 최적화된 추론 중심 아키텍처로 설계됐다”고 밝혔다.

코파일럿·애저 적용 확대, 자체 반도체 투자 강화

MS는 현재 마이아 200을 MS 365 코파일럿과 애저에서 구동하는 오픈AI 모델 등 실제 AI 서비스에 활용하고 있다. 마이아 300은 이러한 운영 경험을 토대로 추론 처리량과 전력 효율을 높인 차세대 제품이다.

MS의 자체 AI 가속기 확대는 AI 인프라 투자 규모가 커지는 가운데 외부 GPU 구매 부담을 줄이고 반도체 공급망을 다변화하려는 움직임으로 풀이된다.

자체 반도체가 엔비디아나 AMD의 GPU를 전면 대체하는 수준에 이를 것으로 보이지는 않다. MS는 자체 가속기와 외부 GPU를 함께 활용하는 인프라 전략을 유지하면서 AI 서비스별로 적합한 시스템을 배치할 계획이다.

MS는 마이아 300을 2027년부터 대규모로 배치해 AI 추론 인프라의 핵심 축으로 활용한다는 방침이다.