머신러닝 새 도전…“클라우드를 벗어나라"

인공지능(AI) 서비스를 구현하는 핵심 기술 중 하나인 머신러닝이 새로운 도전을 시작했다. 클라우드를 벗어나 스마트폰, 사물인터넷(IoT) 같이 최전방 ‘엣지’ 디바이스에서 직접 구동시키려는 움직임이 활발하다. 엣지 디바이스에서 머신러닝 모델을 작동시키면, 더 빠르고 안정적인 AI 서비스를 제공할 수 있기 때문이다.

지금까지 머신러닝은 데이터센터의 강력한 컴퓨팅 파워에 의지해 연산을 마친 후 그 결과를 인터넷을 통해 모바일로 보내왔다. 모바일에서 바로 연산이 가능해지면, 결과를 더 빠르게 보여줄 수 있고 심지어 인터넷이 연결돼 있지 않더라도 AI 서비스가 가능해 진다.

AI 분야에서 세계적인 권위자인 앤드류 응 박사는 이달 초 자신의 트위터를 통해 이런 기술 흐름이 AI 산업에 큰 영향을 줄 것이라고 예고했다. 그는 “AI 연산이 클라우드에서 엣지로 전환되고 있는 현상은 흥미로운 테크 트렌드로, (이런 변화가) 소비자 IoT를 촉진시킬 것이며 새로운 승자와 패자를 만들어 낼 것”이라고 말했다.

예컨대 스마트 스피커에 머신러닝 모델이 탑재돼, 음성 인식에 컴퓨팅 파워를 덜 써도 된다면 사용자의 질문에 보다 빠르게 답변을 내놓을 수 있다. 또 CCTV는 인터넷이 연결돼 있지 않아도, 침입자의 얼굴을 탐지해 낼 수 있다.

'네트워크를 통한 데이터 전송에 들어가는 비용이 싸니까 서버와 기기 사이를 왔다갔다 하면 되는데 왜 굳이 기기에 머신러닝 모델을 탑재(임베디드) 해야 할까'라는 의문이 들기도 한다.

지난달 7일 네이버 AI 컨퍼런스 ‘콜로키움’에서 김정희 네이버랩스 수석연구원은 이런 물음에 대해 이렇게 답했다. “네이버 랩스는 자율주행차, M1로봇(실내 3D정밀 지도제작을 위해 개발한 로봇), 증강현실(AR) 분야에 대한 연구를 많이 하고 있다. 이를테면 자율차가 달리면서 통신을 통해 카메라에서 받은 이미지를 서버와 주고 받고 있는데 통신이 끊긴다고 사고가 나면 안 되지 않느냐. 자율차 비전(이미지 인식)처리는 임베디드로 가려고 하고 있고 따라서 좀 더 효율적인 딥런닝이 필요하다.”

■구글과 페이스북의 심상치 않은 움직임

구글과 페이스북은 이미 경쟁적으로 새로운 도전에 뛰어들었다. 구글은 ‘텐서플로 라이트’, 페이스북은 ‘카페투’(Caffe2)라는 새로운 머신러닝 프레임워크를 선보였다. 기존 프레임워크와 동일하게 첨단 기술을 온전히 사용하면서도 속도는 높이고 부피는 줄인 것이 특징이다.

구글은 지난 17일(현지시간) 미국 캘리포니아주 마운틴뷰 쇼라인 엠피시어터에서 열린 연례 개발자 컨퍼런스 ‘구글 I/O 2017’를 통해 텐서플로 라이트를 공개했다.

텐서플로 라이트는 구글이 지난 2015년 오픈소스로 공개한 머신러닝 프레임워크 텐서플로를 모바일 환경에 맞게 최적화한 버전이다. 개발자들은 텐서플로 라이트를 이용해 안드로이드 스마트폰에서 작동하도록 설계된 딥러닝 모델을 만들 수 있다.

데이브 버크 구글 안드로이드 엔지니어링 담당 부사장은 "구글은 텐서플로 라이트가 새로운 장치에서 음성 처리, 이미지 검색, 증강 현실 등을 강화하는 데 도움이 될 것으로 생각한다"고 말했다.

구글은 텐서플로 라이트를 오픈소스로 공개하고 올해 말께 애플리케이션프로그래밍인터페이스(API)도 공개할 계획이다.

페이스북은도 지난해 11월 모바일 기기에서 딥러닝 모델을 운영하는 데 최적화된 머신러닝 라이브러리 카페투고(Caffe2GO)를 발표한 바 있다. 페이스북은 카페투고를 보여주기 위한 데모 서비스인 스타일 트랜스퍼도 함께 공개했다. 이 앱은 한 이미지의 스타일을 다른 이미지에 적용해 주는 기능을 제공한다.

페이스북은 블로그(☞링크)를 통해 스타일 트랜스퍼에 카페투고를 적용해 얻은 효과에 대해 “이미지와 비디오 처리에 사용하는 AI 모델의 크기를 100배 압축할 수 있었고 이를 통해 iOS와 안드로이드 기기 모두에서 다양한 딥러닝 신경망을 고효율적으로 실행할 수 있었다”고 설명했다.

페이스북은 토치라는 기존 프레임워크를 사용하고 있지만 “크기, 속도, 유연성을 모두 갖추고 있는” 카페투고를 전략적으로 “전체 스택에 걸쳐” 활용할 계획이다.

스마트폰에서 머신러닝 모델을 구동시키려면, 모바일 프로세서 제조사와 협력도 필수적이다.

텐서플로 라이트는 모바일 기기의 프로세서를 머신러닝 모델 구동에 사용할 수 있게 하는 새로운 신경망 애플리케이션 프로그래밍 인터페이스 (API)를 갖추고 있다. 이 부분은 구글이 머신러닝 구동에 최적화된 프로세서를 탑재한 스마트폰이 곧 등장할 것으로 기대하고 있다는 점을 보여준다.