아마존웹서비스(AWS)가 자체 인공지능(AI) 칩 '트레이니움'의 소프트웨어 호환성을 높여 엔비디아 중심의 AI 반도체 시장 공략에 나섰다. 기존 AI 개발 코드를 수정하지 않고도 트레이니움을 사용할 수 있도록 지원해 기업들의 칩 전환 부담을 줄이고 고객 확대에 속도를 내려는 전략이다.
AWS는 오픈소스 AI 개발 프레임워크인 파이토치(PyTorch)를 트레이니움에서 직접 실행할 수 있도록 지원하는 '토치뉴런(TorchNeuron)'을 공개했다고 27일 밝혔다. 이 기술은 트레이니움2와 트레이니움3를 지원하며 아파치 2.0 라이선스 기반 오픈소스로 제공된다.
토치뉴런은 AI 개발자가 새로운 반도체를 도입할 때 발생하는 소프트웨어 전환 부담을 줄이는 데 초점을 맞췄다. 기존 파이토치 코드에서 실행 장치를 지정하는 설정 하나만 변경하면 트레이니움에서도 모델을 실행할 수 있도록 한 것이 특징이다.
이는 AI 반도체 시장에서 엔비디아가 확보한 소프트웨어 영향력과도 관련이 깊다. 엔비디아는 GPU 성능뿐 아니라 병렬 컴퓨팅 플랫폼인 쿠다(CUDA)를 중심으로 개발 도구와 라이브러리 생태계를 구축해 왔다. 기업들이 다른 AI 칩으로 전환하려면 기존 프로그램의 호환성을 확인하고 성능을 다시 최적화해야 하는 부담이 있어 하드웨어 선택에도 제약이 따랐다.
이 같은 상황 속에 AWS는 토치뉴런을 통해 이러한 진입장벽을 낮추고 트레이니움의 활용 범위를 넓힐 계획이다. 이를 위해 기존 파이토치의 표준 개발 도구를 지원해 개발자가 익숙한 환경에서 AI 모델을 개발하고 검증할 수 있도록 했다. 또 파이토치의 분산 학습 프레임워크인 '토치타이탄(TorchTitan)'과도 통합해 여러 트레이니움 인스턴스를 활용한 대규모 모델 학습을 지원한다.
외부 AI 개발 생태계와의 연계도 강화하고 있다. AI 모델 공유 플랫폼인 허깅페이스는 주요 개발 도구에 트레이니움 네이티브 지원을 적용했다. AWS 전용 코드를 별도로 작성하지 않고 기존 개발 도구로 트레이니움을 활용할 수 있는 환경을 마련한 것이다.
AWS는 파이토치 커뮤니티와 협력해 프레임워크 내부의 특정 하드웨어에 대한 의존도를 줄이는 작업에도 참여하고 있다. 관련 개선 사항을 파이토치 원본 프로젝트에 기여해 다양한 AI 반도체를 지원하는 개발 환경을 확대한다는 구상이다.
이 같은 전략은 AWS의 자체 AI 반도체 사업에도 힘을 실어줄 것으로 보인다. 그동안 트레이니움의 성능과 비용 효율성을 강조해 왔다면, 이제는 기존 개발 환경을 유지하면서 하드웨어를 선택할 수 있다는 점을 앞세워 기업 고객을 확보하려는 움직임이다. 트레이니움 활용이 늘어날수록 AWS의 AI 클라우드 인프라 사업 확대에도 유리하게 작용할 수 있다.
실제 음성 AI 기업 카르테시아는 파이토치 코드를 최소한으로 수정해 트레이니움에서 추론 파이프라인을 실행했다. 미국 리버 뇌발달연구소도 신약 개발 등에 활용되는 분자동역학 시뮬레이션을 트레이니움에서 가속하는 방안을 검토하고 있다.
다만 토치뉴런은 아직 공개 베타 단계로, 모든 AI 모델이 추가 수정 없이 동일한 성능으로 실행되는 것은 아니다. 쿠다 전용 커널이나 특수 라이브러리를 활용하는 경우 별도의 호환성 검증과 최적화가 필요할 수 있다. 엔비디아 GPU 대비 실제 비용 절감 효과와 성능 경쟁력도 워크로드별로 확인해야 한다.
관련기사
AWS가 이번 기술을 통해 강조한 것은 기존 AI 개발 환경을 유지하면서 하드웨어 선택의 폭을 넓힐 수 있다는 점이다. 소프트웨어 호환성을 높여 새로운 반도체 도입에 드는 시간과 비용을 줄이는 동시에 트레이니움 기반 AI 인프라 수요를 확대하겠다는 취지다.
야나 반 그뢰넌 메타 파이토치 엔지니어링 디렉터는 "파이토치의 비전은 개발자가 하드웨어 플랫폼과 관계없이 일관된 개발 경험을 누릴 수 있도록 하는 것"이라며 "AWS 트레이니움의 네이티브 지원으로 연구자와 엔지니어들은 기존 작업 방식을 다시 설계하거나 파이토치 생태계를 벗어나지 않고도 트레이니움의 기능을 활용할 수 있게 됐다"고 말했다.
