메타가 자체 개발한 2세대 AI 반도체 'MTIA(Meta Training and Inference Accelerator)'를 공개했다. 메타는 이 제품을 통해 엔비디아 등 외부 반도체 회사에 대한 의존도를 줄이고 인공지능(AI) 서비스를 강화한다는 목표다. 메타는 작년 5월 첫 버전(1세대) V1를 선보인 바 있다.
12일 메타에 따르면 2세대 칩은 4개 유형 AI 모델에서 이전 모델보다 3배 더 나은 성능을 보인다. MTIA는 대만 TSMC 5나노미터(nm) 공정에서 생산된다.
메타는 이 AI 반도체를 페이스북과 인스타그램에서 콘텐츠의 순위를 매기고 추천하는 데 활용할 계획이다.
메타는 "이 칩의 아키텍처는 자체 대규모언어모델(LLM)인 '라마'와 같은 생성형 AI를 훈련하는 것이 목표"라며 "컴퓨팅, 메모리 대역폭, 메모리 용량의 균형에 초점을 두고 있다"고 설명했다.
관련기사
- 메타 "5월부터 AI로 만든 사진·영상·음성에 라벨 부착"2024.04.07
- 尹 대통령 "622조 반도체 메가 클러스터 신속 조성...AI 집중 투자"2024.04.09
- AI 반도체 '수요·공급기업' 뭉친다…'협업포럼' 출범2024.04.02
- 세미파이브, 모빌린트 AI 반도체 양산 돌입2024.03.28
메타는 MTIA의 대역폭을 기존보다 늘리고, 반도체가 들어가는 서버컴퓨터용 랙도 직접 개발했다. 또 엔비디아의 소프트웨어 '쿠다(CUDA)'와 경쟁할 수 있는 자체 소프트웨어 생태계를 개발하는데 상당한 투자를 했다.
메타는 최근 AI 칩을 구입하는 데 수십억 달러를 지출하고 있다. 올해 마크 저커버그 메타 최고경영자(CEO)는 투자자들에게 “엔비디아로부터 H100 칩 35만개 구매를 포함해 연내에 총 60만개의 H100급 AI 칩을 확보할 것"이라고 밝혔다.
