네이버 슈퍼인턴, ‘청출어람 신경망’으로 글로벌학회 데뷔

효율적 신경망 학습법으로 ‘ICCV 2019’ 논문 채택 영예

딥러닝(심층학습)을 활용해 하나의 이미지만으로 머리색, 피부색, 성별, 연령대까지 바꿀 수 있는 이미지 생성기술을 개발한 천재인턴을 잇는 또 한 명의 네이버 ‘슈퍼인턴’이 탄생했다.(관련기사: 네이버 천재 인턴, AI 개발자들도 ‘깜짝’)

이번에는 학생이 교사를 통해 더 빠르고 쉽게 학습하는 것처럼, 학생 신경망이 교사 신경망을 모방하도록 한 인공 신경망 학습 방법을 고안한 허병호㉚ 클로바 AI 리서치 연구원이 그 주인공이다.

네이버 인턴으로 근무하면서 작성한 그의 논문이 최고권위 학회 중 하나로 손꼽히는 ‘국제컴퓨터비전학회(ICCV) 2019’ 발표 논문에 채택(포스트 부문)돼 주변의 부러움을 샀다. 특히 국내에서 처음 열린 ICCV 무대에 올라 해당 논문을 발표해 더욱 주목 받았다.

네이버 허병호 클로바 AI 리서치 연구원

지디넷코리아는 지난 28일 ICCV 2019가 열리는 서울 삼성동 코엑스에서 허병호 연구원을 만나 ‘A Comprehensive Overhaul of Feature Distillation’(특징점 기반 지식 증류 방법에 대한 포괄적 분석 및 설계) 논문에 대한 설명을 들었다.

이 논문은 허 연구원이 서울대학교 전기컴퓨터공학부 박사과정을 밟으면서 네이버에 인턴으로 근무할 당시 작성됐다. 그를 비롯해 김지수, 윤상두, 박효진, 곽노준, 최진영 등이 이 논문에 참여했다.

허병호 연구원이 주도한 이 논문을 알기 쉽게 요약하면 사람이 학습할 때 교사를 둬 결과만이 아닌 과정을 학습시키는 것처럼, 인공 신경망을 효율적으로 학습 시키는 방법이다. 간단한 예를 들면 A에게 젓가락을 주고 반찬을 집어 먹어보라고 하는 것보다, B라는 교사가 직접 젓가락을 쥐고 반찬을 집어 입에 넣는 중간과정과 결과를 보여줌으로써 A가 젓가락질을 보다 쉽고 빠르게 익히도록 하는 것이다.

이 같은 학습 방법을 허 연구원은 ‘지식 증류’(Knowledge distillation)라 불렀다. 지식 증류는 미리 학습이 완료된 교사 신경망을 사용해 교사가 문제 푸는 방법을 학생 신경망이 모방하도록 한다. 실험 결과 교사 신경망을사용해 학습된 학생 신경망은 혼자서 학습될 때보다 더 빠른 속도로 학습이 이뤄졌다.

기존 학습법(왼쪽)과 교사-학생 학습법 개념도.

허 연구원은 “교사 신경망을 사용해 학습된 학생 신경망은 혼자서 학습될 때보다 약 2배 정도 성능 향상이 이뤄졌다”면서 “교사보다 뛰어난 학생을 학습시키는 청출어람도 한정된 상황에서 가능한 것을 확인했다”고 말했다.

최신 AI 기술은 신경망(Neural Network)에 기반하고 있다. 인공 신경망(사람의 두뇌와 비슷한 방식으로 정보를 처리하기 위한 알고리즘)은 특정 문제를 풀기 위해 학습되고, 학습한 내용을 바탕으로 목표로 하는 업무를 수행한다.

허병호 연구원에 따르면 일반적인 인공 신경망 학습은 주어진 문제에 대해 신경망이 정답을 내보내도록 하는 과정이다. 최신 인공 신경망은 문제와 정답만 갖고도 문제를 푸는 방법을 스스로 찾아내 학습할 수 있고, 이를 바탕으로 많은 작업을 수행할 수 있다.

허 연구원은 “기존 인공 신경망 학습법은 인공 신경망이 아무 기반 지식 없이 스스로 문제를 푸는 방법을 만들고 배워야 하기 때문에 효율적인 학습 방법이라 보기는 힘들다”면서 “보다 효율적인 인공 신경망 학습을 위해 사람을 학습시키는 것처럼 교사를 두고 결과만이 아닌 과정을 학습 시키는 방법을 만들게 됐다”고 설명했다.

이어 “이번 ICCV에 채택된 논문은 이런 지식 증류 방법에 대한 연구 내용”이라면서 “논문에서는 특징점 기반 지식 증류 방법 기술에 대해 포괄적으로 조사, 분석하고 개선했다. 지식 증류에 사용되는 계층의 위치가 일관적이지 않다는 문제를 새로 발견하고 이를 개선하는 동시에 개선된 내용을 바탕으로 새로운 지식 증류 방법을 설계했다”고 말했다.

허병호 연구원이 'ICCV 2019'에서 발표 논문에 대해 설명하고 있다.

그렇다면 이런 지식 증류 기술은 어디에 활용될 수 있을까. 바로 연산량이 커서 대용량 서버에서 돌아가야 제대로 된 성능을 발휘하는 인공 신경망을 스마트폰에서도 돌아갈 수 있도록 신경망 압축에 쓰일 수 있다.

허병호 연구원은 “이번 연구 결과를 서비스 단에 적용한다면 현재는 스마트폰 자체에서 돌아가는 신경망이 없는데, 현 수준의 하드웨어 환경에서도 많은 신경망 기술들이 모바일에서 돌아갈 수 있게 하는 것이 추후에는 가능하다”고 말했다. 또 “기존의 기계학습 연구들을 개발하고 향상시켜 클로바 등 네이버 서비스에 자연스럽게 녹여내는 것이 목표”라고 덧붙였다.

이어 “이번 논문의 연구는 이미지넷 데이터에 한해서 이뤄진 것이어서 현실 데이터에 적용되려면 더 많은 것들이 필요하다”면서 “아직 기반 기술이고, 완성이 아닌 발전 단계에 있는 연구 결과인 만큼 계속 발전시켜 학계에서 내 논문이 언급될 수 있도록 노력하겠다”고 강조했다.

허병호 연구원은 지난해 10월 네이버 클로바 AI 리서치 조직에 인턴으로 들어와 약 10개월 간 인턴 생활을 하다 지난 달 정규직으로 전환됐다. 그가 인턴으로서 느낀 네이버에 대한 평가는 상당이 긍정적이었다. 연구 환경이나 조직 문화, 그리고 뛰어난 인재들이 많다는 평가였다.

허 연구원은 “연구 환경, 조직문화도 좋다고 생각하고 외국 회사와 비교해도 훌륭한 직원분들이 많다고 생각한다”며 “본인의 연구뿐 아니라 인턴의 연구를 돕는 등 지원도 많고, 사용할 수 있는 GPU나 연산 서버 등의 인프라가 잘 갖춰져 있어 마음껏 연구할 수 있었다”고 설명했다.