스마트폰에서 고성능 AI 연산 가능…"메모리 사용 500분의 1로 확 줄여"

POSTECH-중국-홍콩, 공동 양자화+혼합 정밀도 학습법으로 연산량도 기존대비 100분의 1로

거대한 서버에서만 돌아가던 고성능 물리 연산 인공지능(AI)이 스마트폰이나 소형 기기 안으로 들어올 수 있는 길이 처음 열렸다.

POSTECH은 노준석 기계공학과·화학공학과·전자전기공학과·융합대학원 교수 연구팀이 중국 칭화대 선전 국제대학원, 하얼빈공대, 홍콩시티대 연구팀과 성능은 그대로 유지하면서 연산량을 99% 이상 줄인 획기적인 기술을 개발했다고 7일 밝혔다.

노준석 교수는 "고성능 AI를 스마트폰에서도 실행할 수 있는 수준"이라며 "복소값 신경망 양자화 기반 초경량 AI 프레임워크를 제시한 것"이라고 설명했다.

POSTECH 등 국제연구진이 개발한 복소값 신경망 양자화 기술 모식도.

연구는 ‘네이처 커뮤니케이션즈에 게재됐다.

일반적으로 스마트폰으로 영화를 보고, 내비게이션으로 길을 찾을 때 타이밍 정보를 담은 '위상]을 ‘실수’와 ‘허수’로 이루어진 ‘복소수’라는 수학적 개념으로 나타낸다.

또 이를 활용한 ‘복소값 신경망’은 홀로그램이나 무선 통신, 레이더 영상 분석 등 위상 정보를 정밀하게 처리할 수 있는 장점이 있다.

그러나 복소값 신경망은 계산량이 엄청나게 많아 스마트폰 같은 소형 기기에서는 사용하기 어려운 단점이 있다. AI 모델을 가볍게 만드는 ‘양자화’ 기술이 있긴 하지만, 기존 방식은 실수 기반 신경망을 기준으로 설계돼 복소값 신경망에 적용할 경우 위상 정보가 흐트러지는 단점이 있다.

특히, 홀로그램처럼 위상에 민감한 기술에서는 아주 작은 오차도 화질 저하로 이어진다.

이에 국제 연구팀이 복소수를 이루는 ‘실수부’와 ‘허수부’를 따로 처리하지 않고 동시에 고려하는 '공동 양자화' 기법을 고안했다. 기존에는 복소수를 두 개 숫자로 나눠 각각 압축하는 과정에서 두 값 사이 관계가 깨지며 위상 정보가 틀어졌는데, 연구팀은 두 요소를 하나로 묶어 이러한 문제를 줄였다.

중요한 부분에는 높은 정밀도를 유지하고 덜 중요한 부분은 과감히 줄이는 '적응형 혼합 정밀도 학습' 전략도 더해 메모리 사용도 대폭 줄였다. 사진을 저장할 때 주인공 얼굴은 고화질로, 배경은 저화질로 압축하는 식이다.

연구팀이 홀로그램 실험 결과, 기존 최첨단 모델(HoloNet) 대비 연산량은 99.1%, 메모리 사용량은 99.8% 줄었다. AI가 해야 할 계산이 약 100분의 1로 줄고, 저장공간은 500분의 1 수준으로 줄었다는 의미다.

영상 화질을 나타내는 지표(PSNR1))는 그럼에도 약 4dB(데시벨) 향상됐다. 음성·무선 신호 분류, 레이더 표적 인식 등 분야에서도 연산량을 약 85% 이상 줄이면서도 정확도는 그대로 유지했다. 스마트폰에서 실행했을 때는 기존보다 최대 389배 빠른 속도를 기록했다.

노준석 POSTECH 교수.(사진=POSTECH)

노준석 교수는 “고성능 물리 연산 AI가 스마트폰이나 소형 기기 안에서 구동될 수 있다는 가능성을 처음  연 것”이라며, “경량 AR·VR 홀로그램, 자율주행 차량 레이더, 차세대 통신망, 휴대형 의료기기까지 다양한 분야에 활용될 것”이라고 전했다.