글로벌 AI 유니콘 그래프코어, 한국 진출 선언

GPU와 다른 IPU만의 차별점 보여줄 것...'삼성·네이버'에 러브콜도

인공지능(AI) 분야의 글로벌 유니콘 기업인 그래프코어가 한국 지사를 설립하고, 삼성전자와 네이버 등 국내 ICT 기업에 러브콜을 보냈다.

지난 4일 그래프코어는 그랜드 인터컨티넨탈 서울 파르나스에서 기자 간담회를 개최하고, 그래프코어 한국 지사 설립과 함께 강민우 루브릭 전 한국 지사장을 그래프코어 한국 지사장으로 선임한다고 밝혔다.

강민우 지사장은 2008년 데이터도메인 이사, 2012년 한국블랙아이옵스 지사장, 2013년 퓨어스토리지 코리아 지사장, 2017년 루브릭 한국 지사장을 역임한 IT 인프라 분야의 전문가다.

강민우 지사장은 "국내 기업 고객들의 변화하는 수요에 맞춰 공격적으로 시장을 개척하고, 최적의 제품과 서비스 제공을 위해 조직 확대 및 지원에 적극 나설 계획"이라며 "이미 국내 대기업에서는 그래프코어 기술에 대한 수요가 높고, 협력관계 구축에 적극적인 모습을 보이고 있다. 그래프코어는 앞으로 데이터센터, 기업용 연구소를 타깃으로 비즈니스 확대에 집중할 방침"이라고 각오를 전했다.

지난 4일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 기자 간담회 현장. 파브리스 모이잔 미국 총괄 부사장이 그래프코어의 기술을 설명하고 있다. (사진=지디넷코리아)

그래프코어 본사 차원에서 한국 지사에 대한 기대감이 매우 크다.

그래프코어에서 영업과 비즈니스 개발을 총괄하고 있는 파브리스 모이잔 총괄 부사장은 "그래프코어는 미국의 대형 펀드인 세콰이어에서 자금을 유치하고, MS·BMW·삼성전자 등으로 투자를 받았다. 삼성전자의 투자로 우리가 존재할 수 있는 것"이라며 "그래프코어는 삼성전자가 앞으로 인공지능을 주도하는 업체가 될 것으로 보고 있다. 그만큼 우리에게는 중요한 고객이다"라고 말했다.

또 "한국은 5G(5세대 이동통신)·초고속 인터넷 등의 혁신기술을 보유하고 있고, 이를 통해 삼성전자·네이버·카카오·SK텔레콤 등과 같이 혁신을 만들어가는 기업들이 존재한다"며 "이들 기업이 시장을 선도하기 위해서 그래프코어의 혁신기술을 활용하면 좋을 것 같다"고 덧붙였다.

---

■ 최고의 AI 혁신기술, 'IPU' 업계를 뒤집어 놓다

그래프코어가 앞세우는 AI 혁신기술은 '지능형처리장치(Intelligence Prcessing Unit·IPU)'다.

그래프코어가 독자 기술로 만든 IPU는 기존의 중앙처리장치(Central Processing Unit·CPU)나 그래픽처리장치(Graphics Processor Unit·GPU)와는 달리 프로세서에 직접 메모리를 배치한 것이 차이점이다.

구성은 1천200개 이상의 병렬코어로 구성됐으며, 150와트에서 125테라플롭스(TFLOPS·초당 12.5조 부동 소수점을 연산할 수 있는 성능)의 속도를 제공한다. 코어당 메모리(S램) 타일을 적용했으며, 연산속도는 100기가플롭스(GFLOPS·초당 10억 부동 소수점을 연산할 수 있는 성능)에 달한다.

파브리스 모이잔 총괄 부사장은 "그래프코어의 IPU는 딥러닝에 필요한 학습 및 추론 모델을 메모리에 적재한 후 바로 연산할 수 있어 CPU와 D램, GPU 간의 지연이나 전력 소모가 적다"며 "또 1천200개 이상의 프로세서에 내장된 256kB(킬로바이트) 용량의 S램은 랜덤하게 각각의 독립적인 명령을 수행하는 방식으로 작동할 수 있어 방대한 데이터를 병렬처리해야 하는 머신러닝에 최적화돼 있다"고 설명했다.

그래프코어의 콜로서스 지능형처리장치(IPU)의 구조. (사진=그래프코어)

이어 "TCO(Total Cost of Ownership·총 소유 비용) 측면에서는 IPU가 GPU 대비 데이터센터에서 (머신러닝) 학습 시간과 전력 소모를 크게 줄일 수 있다"며 "머신러닝은 과거에는 단순히 물체를 인식하는데서 출발했지만, 현재는 핵심 애플리케이션에서 자연어처리(음성처리, 챗봇, 인터넷검색)를 하는 데 사용되고 있다. 향후에는 과거를 학습해 미래를 예측하는데 사용될 것이다. 대표적인 예가 자율주행차다. 안전한 자율주행차는 돌발상황을 예측할 수 있는 의사결정을 내려야 한다. IPU는 마치 사람의 뇌처럼 미래를 예측하는 기술로 머신러닝의 미래가 될 것이라고 본다"고 덧붙였다.

그래프코어 IPU의 성능에 대한 글로벌 ICT 업체들의 기대도 크다. 마이크로소프트는 이례적으로 지난해 신생 유니콘 기업인 그래프코어의 IPU 기술을 자사 클라우드 서비스 '애저'에 적용하기도 했다.

실제로 그래프코어가 IPU의 효율성을 입증하기 위해 MS와 구글 버트(Bidirectional Encoder Representations from Transformers·BERT)를 통해 최고 성능과 정확도를 측정한 결과, 평균 추론 처리량은 기존 CPU 및 GPU 대비 3배 향상됐고, 대기 시간도 20% 이상 줄어든 것으로 나타났다.

강민우 지사장은 이와 관련해 "현재 국내 대기업을 중심으로 IPU에 대한 수요가 높은 상황이다. 한 달 이상이 걸리던 학습 시간을 절반 이하로 줄여든다는 측면에서 개발기간 단축 및 비용절감에 이점을 있다고 판단하는 것 같다"며 "특정 기업의 경우 반도체 자동설계 및 자동공정에 (IPU에 기반한) 인공지능 솔루션을 적용하려는 모습도 보이고 있다. 일부 완성차 업체에서는 자율주행차 개발에 있어 학습 시간을 보름까지 단축시켜주면 당장 적용하겠다는 곳도 있다"고 자신감을 내비쳤다.

---

■ 삼성이 3천만달러 투자한 '그래프코어'는 어떤 기업

그래프코어는 지난 2016년 영국 브리스톨에서 나이젤 툰 최고경영자와 사이먼 놀스 최고기술책임자가 설립한 벤처 스타트업이다.

2016년 초기 창업 과정에서 삼성전자가 3천만달러(약 356억5천500만원)을 투자한 것으로도 유명하다. 당시 삼성전자는 그래프코어를 엔비디아에 대적할만한 실력을 갖춘 기업으로 평가하기도 했다.

그래프코어는 인공지능 시대와 머신러닝에 특화한 반도체의 필요성에 주목해 기존의 CPU 및 GPU와 달리 프로세서에 직접 메모리를 배치한 IPU를 독자적으로 설계해 생산 중이다. 첫 상용 IPU는 2018년에 출시된 16나노미터(nm=10억분의 1미터) 공정기반의 PCI 고속카드 'C2'다. 이 제품은 두 개의 IPU가 상호 연결된 구조로 16개의 코어 팩과 236억개의 트랜지스터로 구성돼 코어당 최대 100기가플롭스의 연산속도를 제공한다. 병렬로 실행할 수 있는 프로그램은 최대 1만개에 달한다.

그래프코어는 현재 미국, 유럽, 대만, 중국에서 지사를 운영 중이다. 자체 팹이 없이 프로세서 설계만 담당하는 전문 팹리스 기업으로 파운드리(반도체 수탁생산)는 주로 대만의 TSMC를 이용한다. 한국에서는 삼성전자와 긴밀히 협력 중이며, 지난해 삼성전자의 요청으로 본격적인 지사 설립 준비에 착수했다.

다음은 그래프코어 기자 간담회 주요 질의응답 내용을 정리한 것이다.

---

-IPU를 통해 새롭게 접근할 수 있는 애플리케이션이 있다면?

"딥러닝을 통해 HD급 해상도 영상을 4K, 8K로 변환하는 업스케일링 기술이 있다. 그래프코어는 현재 IPU를 활용한 새로운 업스케일링 기술을 고민 중이다. 반도체 분야에서는 자동설계나 자동공정에 활용하는 방안을 준비 중이다."

-MS가 애저에 IPU를 적용한 이유는 무엇인가?

"지난해 MS 애저에 최초로 IPU가 적용됐다. 그래프코어 입장에서는 상당한 성과다. 본래 MS는 스타트업 기업에 투자를 잘 하지 않는다. 그런데 그래프코어에 장기적인 투자를 결정했다. 상당한 의미를 가진다. 그럼 왜 MS는 그래프코어를 선택했을까? MS가 고객에게 GPU 외 IPU라는 새로운 기술을 선택할 수 있도록 한 것으로 생각한다."

-IPU가 가진 경쟁력은 어느 정도인가?

"인공지능 분야를 흔히들 빅 오션이라고 부른다. 애플리케이션 측면에서 보면 대표적으로 스마트폰이 있지만, 저전력으로 구동하는 엣지 AI부터 고성능을 구현한 하이퍼포먼스 AI도 있다. 그래프코어는 세계적으로 하이퍼포먼스 AI 영역에서 엔비디아, 구글과 함께 머신러닝과 추론이 가능한 칩세트을 설계할 수 있는 기업이다. 단순히 칩만 설계하는 게 아니라 이에 필요한 소프트웨어도 함께 개발하고 있다. 칩세트의 가격 측면에서도 예컨대 C2 제품을 기준으로 엔비디아 칩 1개 가격에 그래프코어는 칩 2개를 공급할 수 있다. 가격 측면의 경쟁력도 충분하다고 본다."

-IPU를 활용할 수 있는 대표적인 분야가 있다면?

"구글, 네이버 등의 검색엔진 서비스에서는 정확하고 빠른 검색이 중요하다. 버트 모델 평가에서 IPU는 충분히 좋은 성과를 냈다. 금융업종에서도 IPU는 MCMC(Markov Chain Monte Carlo) 모델에서 우수한 성능을 입증했다. 예컨대 기존 대비 학습 시간이 26배 가량 빨라지는 상당한 차이를 만들 수 있다. 특히 데이터센터에서는 학습 시간을 3배 정도 단축할 수 있다면 금전적으로 큰 혜택을 줄 수 있다."

-신종 코로나바이러스 감염증 확산으로 국내외 전시회가 취소되는 등 우려가 크다. 그래프코어는 피해가 없나?

"그래프코어는 단순히 칩세트만 설계하는 게 아니라 이를 기반으로 한 시스템과 카드 등도 만든다. 그간 중국 폭스콘에서 이를 생산해왔는데 코로나바이러스 여파로 생산이 지연되고 있다. 본사에서는 중국 지사 직원들의 휴가를 연장하는 등의 조치도 취하고 있다."