마이크로소프트, 전 세계 연결하는 AI 인프라 서비스 준비

마이크로소프트(MS)가 전 세계를 연결하는 인공지능(AI) 클라우드 인프라 서비스 구축을 준비 중인 것으로 확인됐다.

22일(현지시간) 미국 지디넷에 따르면 마이크로소프트는 AI 인프라 서비스 싱귤래리티를 구축하기 위해 구인 정보를 게시했다.

이와 함께 애저와 리서치 팀의 직원 26명 작성한 싱귤래리티 관련 논문이 아카이브에 올라왔다.

마이크로소프트에서 준비 중인 AI 인프라 싱귤래리티.

논문에 따르면 싱귤래리티는 데이터 과학자와 AI 실무자가 모델을 구축, 확장, 실험, 반복하기 위한 AI에 특화된 분산형 인프라 서비스다.

행성 규모(Planet-Scale)로 개발된 것이 특징으로 개발초기부터 전세계 수십만 개의 GPU, FPGA 및 다양한 AI 가속기로 구성된 글로벌 AI 워크로드 환경에 대응해 확장할 수 있도록 설계됐다.

AI워크로드 과정에서 컴퓨팅 파워를 클라우드로 최대한 분산시켜 하드웨어의 부하를 줄여 수명을 늘리고 작업속도를 높이는 방식이다.

마이크로소프트 마크 러시노비치 애저 CTO는 “싱귤래리티 핵심은 딥러닝 워크로드를 투명하게 선점하고 탄력적으로 확장해 정확성이나 성능에 영향을 미치지 않으면서 전세계 가속기제품군에서 워크로드를 유지하는 것”이라고 설명했다.

마이크로소프트는 싱귤래리티 성능 분석을 위해 제온 플래티넘 8168, 8개 V100 모델 GPU, 692GB RAM으로 구성된 엔비디아 DGX-2 서버 수만대와 인피니밴드를 통해 네트워크로 연결한 수십만 개의 GPU와 FPGA 및 기타 가속기를 이용해 테스트를 진행 중이라고 밝혔다.

테스트를 통해 스케일링과 비용절감, 안정성 향상을 주력하고 있으며 해당 내용은 마이크로소프트의 기업비밀이라고 강조했다.

마이크로소프트 측는 “싱귤래리티는 여러 작업자를 시간 분할할 수 있는 복제 접합이라는 새로운 기술 덕분에 가능한 것”이라며 “이를 통해 전세계 수십만 대의 서버에서 AI 작업을 더 효율적으로 수행하고 업무 시간을 단축할 수 있을 것”이라고 전했다.