보카르 MS 부사장 "아폴로 계획처럼 AI는 우리에게 큰 기회"

"아폴로 계획(미국의 유인 우주비행 탐사) 이후 의학, 재료, 컴퓨팅 분야에서 획기적인 발전을 가져온 것 처럼 AI는 새로운 기술의 지평을 열 것입니다."

라니 보카르(Rani Borkar) 미국 마이크로소프트 기업부문(CVP) 부사장은 4일 서울 강남구 코엑스에서 열린 'SK AI 서밋 2024'에서 이 같이 밝혔다. MS의 클라우드 컴퓨팅 사업을 이끌고 있는 보카르 부사장은 애저(Azure) 하드웨어 시스템& 인프라 부문을 맡고 있다. MS에 합류하기전 IBM 등에 있었다. 특히 인텔에서 오래 근무하며 기업 부사장으로 일했다. 인도 뭄바이 대학에서 물리학으로 학사와 석사 학위를 받았는데 미국 오리건대학원에서 다시 전기전자 석사 학위를 땄다. 스탠포드대학이 운영하는 경영자리더십 프로그램도 이수했다.

이날 'AI의 미래를 향한 비전(The Vision for the Future of AI)'을 주제로 강연한 그는미국의 아폴로 계획(1961년부터 1972년까지 미국항공우주국이 추진한 일련의 유인 우주 비행 탐사 계획)이 담대한 도전이자 목표였다면서 AI 역시 아폴로 계획과 유사하다고 짚었다.

라니 보카르(Rani Borkar) 미국 마이크로소프트 기업부문(CVP) 부사장이 4일 발표를 하고 있다.

사람을 달에 보내는, 성공 확신이 없는 이 목표를 위해 40만명이 함께 일했고, 엔지니어들은 상상하고 발명했으며, 2만개의 기업과 대학이 위험을 무릎쓰고 목표를 향해 나아갔다고 소개한 그는 "1969년 7월 20일 5억명의 넘는 사람들이 TV를 지켜보고 있는 가운데 마침내 깃발을 꽂았다. 깃발을 꽂는 것에 그치지 않고 혁신을 촉발하고 새로운 산업을 탄생시켰다"면서 "아폴로 계획이 20세기 최고 기회인 것처럼 AI는 우리에게 일생일대의 기회"라고 강조했다.

현재 우리는 막대한 투자가 이뤄지는 시대에 살고 있으며, AI인프라가 새로운 지평을 열어줄 것이라고 진단한 보카르 부사장은 "우리가 어떻게 혁신하는 지가 새로운 기술 분야를 개척하는 원동력이 될 것"이라면서 "획기적인 인프라를 구축하기 위해 페이스북은 세계최고 AI 슈퍼컴퓨터를 구축하고 있다. 이 여정에는 새로운 모델과 시스템이 필요하다"고 설명했다.

특히 그는 AI가 초래하는 새로운 세상이자 미지의 영역으로 들어서려면 세 가지 핵심 요건에 집중해야 한다면서 ▲속도(Speed) ▲스케일(Scale) ▲지속가능성(Sustainability)을 꼽았다.

아폴로 계획을 설명하며 AI의 중요성과 파급력을 설명하고 있는 보카르 부사장

"LLM 성능 6개월마다 두 배로 향상...무어 법칙보다 거의 4배 빨라"

속도와 관련, 과거 컴퓨팅 발전은 2년마다 트랜지스터 밀도가 두 배로 증가하는 무어의 법칙에 기반을 뒀는데, 오늘날 우리는 AI성능에서 이러한 진보를 보고 있다면서 "LLM 성능이 6개월마다 두 배로 빨라지고 있다. 이는 무어의 법칙(반도체 성능이 18개월마다 두 배로 향상)보다 거의 4배나 빠른 속도"라고 짚었다. 이어 사람, 하드웨어, 시스템, 인프라가 AI모델이 필요로 하는 것을 따라가지 못하고 있다면서 "엔드 투 엔드 최적화와 혁신에 집중해야 따라잡을 수 있다. 스펙의 모든 수준에서 혁신 의존도가 이렇게 높았던 적이 없다"고 짚었다. 과거 메모리업계는 시스템 관점에서 10~15%의 성능 향상을 제공했는데, AI시대에는 시스템 전체로 개선 폭을 넓혀야 한다면서 차세대 AI모델을 구현하는데 핵심 역할을 하는 고대역폭 메모리(HBM)를 예로 들었다.

또 규모와 관련, 네트워크 대역폭 성능 개선 등을 언급하며 "AI가속기는 빠르게 성장하고 있고, AI모델이 발전함에 따라 더 높은 플롭스(FLOPS)와 더 나은 메모리로 AI 가속기 성능을 개선해야 한다. 혁신의 가파른 곡선을 고려할 때 위험을 감수하지 않고는 기업이 리더십을 확보하고 유지할 수 없다"고 말했다.