SKT, AI 처리 속도 20배 높이는 가속기 개발

서비스 용량 5배 키우고 전력효율도 16배 높여

SK텔레콤(대표 박정호)은 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX)’을 개발, 자사 AI 서비스 ‘누구’에 적용했다고 21일 밝혔다.

이 솔루션은 손바닥 크기의 소형 카드에 탑재된다. 이 카드를 데이터 센터 내 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.

SK텔레콤 AI 가속 솔루션 사진

SK텔레콤은 이에 따라 서버 증설 없이도 AI 전체 서비스 용량을 이전 대비 약 5배 늘리는 효과를 기대할 수 있다고 강조했다. 또 GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용비 절감도 가능해진다고 덧붙였다.

SK텔레콤이 해당 솔루션을 개발한 이유는 누구 월간 실 사용자 수(MAU)가 급증했기 때문이다. 지난해 8월 11만명이었던 누구 MAU는 올해 1분기 기준 300만명을 돌파했다. 이는 SK텔레콤이 누구를 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 대폭 확대한 데 따른 것이다.

AIX 개발과 상용화에는 2년이 걸렸다. SK텔레콤은 자체 기술로 ▲하드웨어와 소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

SK텔레콤 분당 사옥에서 연구원들이 AI 가속 솔루션을 테스트하고 있는 모습

미국 시장조사업체 트랙티카가 지난 3월 발표한 보고서에 따르면 AIX를 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억 달러(약 73조원)에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AIX 개발, 상용화에 적극 나서고 있다.

AI 가속기가 활용될 수 있는 AI 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답 시간이 빨라지며 보다 많은 사용자를 동시 응대할 수 있다. CCTV 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석할 수 있어 위험 상황 발생 시 적시에 대응할 수 있다.

SK텔레콤은 향후 연산 속도와 전력 효율성을 보다 끌어올린 차세대 AIX도 개발할 예정이다. 또 향후 다양한 AI 서비스사에 해당 솔루션을 판매할 계획이다.

박진효 SK텔레콤 ICT기술원장은 “누구를 시작으로 향후 확장될 다양한 AI 응용 서비스에 AIX를 적용해 고품질의 서비스를 제공할 것”이라고 밝혔다.