엔비디아가 인공지능(AI)칩 시장 강자로 우뚝 올라선 가운데 아마존이 자체 개발 칩을 앞세워 정면으로 도전장을 내밀었다. 자체 개발한 AI 반도체와 관련 소프트웨어를 AI 연구자들에게 대량으로 무료 제공함으로써 영역 확대에도 적극 나선 분위기다.
25일 블룸버그통신에 따르면 아마존은 올해 연말까지 자체 AI칩의 최신 버전인 '트라이니엄2(Trainium2)'를 데이터센터에 적용하는 것을 목표로 현재 제품 개발에 박차를 가하고 있다. 이 칩은 레바논 태생이자 Arm 출신인 라미 시노(Rami Sinno) 엔지니어 주도로 개발되고 있다.
아마존이 이처럼 나선 것은 엔비디아 AI칩에 대한 의존도를 줄이기 위해서다. 현재 AI용 데이터센터의 핵심 반도체 시장은 엔비디아가 90%가량 장악하고 있다. 이는 현재 대부분 개발자가 엔비디아의 고성능 AI 반도체와 개발용 소프트웨어 '쿠다'를 이용해 AI 모델을 만들고 있는 것이 주효했다. 쿠다가 엔비디아의 AI 칩에서만 구동되는 만큼 이 소프트웨어는 엔비디아가 AI 칩 시장을 장악하는 핵심 요인으로 거론된다.
이에 아마존웹서비스(AWS)와 마이크로소프트(MS) '애저', 구글 클라우드 등은 엔비디아 AI칩에 대한 의존도를 줄이려는 분위기다. 이들은 엔비디아의 최대 고객으로, 최근 각자 자체 실리콘을 개발하고 나선 상태다.
업계에선 아마존의 AI칩 개발 움직임에 가장 큰 기대를 걸고 있다. 15년 전 클라우드 컴퓨팅 비즈니스를 발명한 후 인텔을 포함한 기존 부품 업체에 대한 의존도를 줄이기 위해 끊임없이 노력해왔기 때문이다. 특히 아마존은 2015년 '안나푸르나 랩스'라는 이스라엘 반도체 설계 스타트업을 인수해 이를 중심으로 자체 칩 제작에 나섰다.
그 결과물로 아마존은 현재 추론 칩 '인페렌시아'와 트레이닝 칩 '트라이니엄'을 선보이고 있다. '인페렌시아'는 2019년 12월 아마존 데이터센터에 배포된 후 음성 비서 '알렉사'의 명령에 응답하는 데 사용됐으며 최근 '인페렌시아2'로 업그레이드 됐다.
아마존의 두 번째 칩인 '트라이니엄1'은 기계 학습 모델을 훈련하려는 기업을 대상으로 선보여진 AI칩이다. 아마존이 만든 칩은 일본 기업들이 적극 활용하는 중으로, 전자제품 제조업체인 리코(Ricoh)는 영어 데이터로 훈련된 대규모 언어 모델을 일본어로 변환하는 데 아마존 AI칩의 도움을 받았다.
아마존은 차기 AI칩인 '트라이니엄2'도 활발히 개발 중이다. 이는 3세대 AI칩으로 평가되고 있으며 아마존이 투자한 AI 스타트업인 앤스로픽과 데이터브릭스 등에서 테스트 중인 것으로 알려졌다. 데이터브릭스는 현재 엔비디아의 AI칩으로 주로 실행되는데 아마존의 AI칩을 활용할 경우 현재보다 30% 더 나은 성능을 제공할 수 있는 것으로 알려졌다. 생산은 대만업체인 TSMC가 맡는다.
아마존도 오하이오를 시작으로 '트라이니엄2'를 자체 데이터센터에 적용시키기 위한 움직임에 나섰다. 또 엔비디아에 대한 의존도를 줄이기 위해 약 18개월마다 새로운 칩을 시장에 출시하는 것을 목표로 하고 있다.
아마존은 AI칩 입지 확대를 위해서도 다양한 노력을 펼치고 있다. 특히 최근에는 '트라이니엄' 4만 장으로 '울트라 클러스터'를 대학 등에 소속된 AI 연구원들에게 무상 제공하는 연구 지원 프로젝트 추진에도 나섰다. '울트라 클러스터'는 거대한 데이터센터로, AI 모델 개발을 위한 필수 인프라다. 아마존은 AI 개발 소프트웨어 '빌드 온 트라이니엄'도 이들에게 무료로 서비스할 예정이다. 아마존이 이번에 지원하는 프로그램을 비용으로 환산하면 1억1천만 달러(약 1천548억원)에 이른다.
블룸버그통신은 "아마존의 '트라이니엄2'가 AWS 고객의 업무도 함께 수행할 수 있다면 성공적으로 안착할 수 있을 것"이라며 "엔비디아 칩을 대체하게 되면 아마존은 AI 장비를 위한 여유 자금을 확보하는 데 도움이 될 것"이라고 말했다.
이어 "'트라이니엄2'가 히트작이 되려면 엔지니어가 소프트웨어를 올바르게 만드는 것도 중요하다"며 "아직은 엔비디아에 비해 아마존의 소프트웨어는 초기 단계"라고 평가했다.
앤디 재시 아마존 최고경영자(CEO)는 올 초 주주 서한에서 "엔비디아 칩은 공급이 부족하고 비용이 여전히 문제여서 고객들은 AI 칩의 가격 대비 성능에 대한 한계를 뛰어넘어 달라고 요청하고 있다"며 "이는 우리가 맞춤형 훈련 칩 '트라이니엄'과 추론 칩 '인페렌시아'를 개발한 이유로, 이미 여러 고객사가 저희의 AI 칩을 사용하고 있다"고 밝혔다.
