윤동식 KT클라우드 대표 "GPU넘어 NPU→PIM까지 간다"

KT클라우드가 전력 소모량이 높은 그래픽처리장치(GPU)를 대신해 AI 특화 반도체인 신경망처리장치(NPU)를 개발하고 있으며, 지능형 메모리 반도체(PIM·Processing in Memory)까지 준비하고 있다고 밝혔다.

KT클라우드 윤동식 대표는 18일 그랜드 인터컨티넨탈 서울 파르나스에서 개최된 'KT클라우드 서밋 2023'에서 이같이 말했다. 지난해 4월 KT의 클라우드·IDC 사업 부문을 분사해 출범한 KT클라우드는 이달 출범 1주년을 맞았다.

윤 대표는 이날 '인공지능(AI), 클라우드, 인터넷데이터센터(IDC)와 함께하는 디지털전환(DX) 여정'을 주제로 키노트를 진행했다.

KT클라우드 윤동식 대표가 18일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023'에서 질의응답하고 있다.

윤 대표는 다음 디지털 전환의 키 포인트는 ▲AI 기반 디지털 혁신과 ▲IT 서비스 안정성이라고 소개했다. 그는 "챗GPT가 아무리 뛰어나도 우리 회사 업무에 관한 대답을 해줄 순 없다"며 "우리 회사 데이터를 다 알 수 있게 오픈할 수 있지도 않고, 오픈해서도 안 되는 상황에서 우리 기업은 어떻게 준비해야 할까 많이 고민해야 할 때"라고 말했다.

또한 "카카오나 SK 사태를 겪고서도 모든 회사가 IT인프라의 안정성을 갖췄다고 생각하지는 않는다"며 "IT인프라의 안정성은 물리 인프라의 안정성뿐 아니라 애플리케이션 재해복구 시스템(DR)까지 동시에 갖춰야 실질적인 비즈니스 영속성이 실현된다. 그러나 회사로서는 영업이익을 얼마나 훼손시키면서까지 DR을 준비해야 하는지 고민될 수 밖에 없다"고 현재 기업들의 고민을 짚었다.

이어 "KT클라우드는 기업들이 분야 특화·맞춤형 AI 비즈니스를 할 수 있는 기반이 되는 솔루션을 제공하며, 기업들이 어떤 수준의 DR을 준비해야 하는지 체계적인 솔루션을 제시한다"고 말했다.

KT클라우드 윤동식 대표가 18일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023'에서 키노트를 발표하고 있다.

윤 대표는 이러한 디지털 전환을 위한 요소로 ▲하이퍼스케일AI ▲고객맞춤형 클라우드 ▲IDC 세 가지를 꼽았다.

그는 "마이크로소프트가 챗GPT를 만든 오픈AI에 10조원 이상을 투자했다고 한다. 그런 돈이 없어서 AI를 개발하지 못한다면, 거대 회사만 할 수 있는 AI개발이라고 한다면, 그것이야말로 디지털 격차, 디지털 차별"이라며 "학습비용과 추론비용을 혁신적으로 감소시켜야지만 일반 회사도 자사 데이터를 이용해 얼마든지 AI개발을 할 수 있고, 그래야만 진짜 AI 시대라고 할 수 있다"고 강조했다.

윤 대표는 전력 문제도 꼬집었다. 그는 "전 세계적으로 AI에 소모되는 전기량이 한계에 다다랐다고 한다"며 "비용, 전력 효율적인 AI 인프라가 절실하게 필요하다"고 말했다.

이어 "회사 데이터를 학습시키기 위해서는 얼마큼의 GPU가 필요한지 기업이 직접 계산할 필요 없이 저희 인프라 위에서 시행해 보면 바로 알 수 있다"며 "바로 온디맨드로 원하는 양만큼 사용할 수 있으며, 내부 시뮬레이션에 의하면 투자 대비 4분의 1 이상 비용이 절감됐다"고 덧붙였다.

KT클라우드는 AI 반도체 스타트업 '리벨리온'과 NPU 칩도 개발 중이다. 윤 대표는 "GPU 전력 소모량이 어마어마하다"며 "이렇게 전력을 소모하다가는 아마 탄소 배출로 AI가 금지되는 날이 올 수 있다"고 말했다.

그는 "엔비디아의 GPU 칩 성능 이상을 낼 수 있는 NPU 칩을 리벨리온과 함께 개발 중"이라며 "현재 칩 개발은 완료됐으며, 5월 말에는 KT클라우드에 리벨리온의 아톰 칩을 적용한 것을 선보일 수 있을 것"이라고 말했다.

이어 "저희의 시작은 NPU이지만 PIM도 계획하고 있다"며 "더 빠르게 연산하고 학습할 수 있는 PIM을 준비하고 있으며, 계획을 향후 발표드리겠다"고 말했다. PIM은 메모리 반도체에 연산 기능을 더한 지능형 메모리 반도체다.

그는 "이전까지는 기업들이 어떻게 데이터를 학습시키는지 어려웠지만 지금은 바로 시작할 수 있다"며 "하루라도 빨리 (AI 개발을) 시작하는 회사가 치고 나갈 수 있다고 단언한다"고 말했다. 이어 "KT클라우드는 초거대AI 믿음과 함께 AI 반도체 스타트업 '리벨리온', AI 소프트웨어 '모레'등과 같이 풀스택AI를 준비하고 있다"고 덧붙였다.

또한 윤 대표는 KT클라우드는 공공, 금융, 일반 기업 등에게 모두 맞춤형 클라우드를 제공할 수 있다고 밝혔다. "2011년에 클라우드를 시작해 12년째 해 오고 있다"며 "12년 동안 똑같은 클라우드를 제공한 것이 아닌 고객 요구사항에 맞는 클라우드를 제공해 왔다"며 자신감을 드러냈다.

마지막으로 그는 데이터센터와 DR 구축의 중요성을 강조했다. "저희는 전국에 13개 데이터센터와 수도권에 7개 데이터센터를 가지고 있다"며 "이것이 모두 하나의 네트워크로 묶여 있다"고 설명했다. 따라서 "특정 IDC가 장애가 나더라도 다른 IDC가 업무를 이어받을 수 있어 언제 어디서나 비즈니스 영속성을 확보할 수 있다"고 말했다.

이어 "자사의 데이터센터를 쓰고 있는 고객에게는 다른 회사의 데이터센터 DR을 사용할 수 있도록 안내하기도 하며, 비용 효율적으로 클라우드 DR도 구축할 수 있다"고 말했다.