구글, 모바일용 텐서플로 라이트 성능 2배 높인다

구글이 모바일용 기계학습 라이브러리 텐서플로 라이트의 성능을 2배 이상 높일 수 있는 기능을 공개했다.

구글은 안드로이드용 오픈CL기반 모바일 GPU추론 엔진을 출시한다고 17일 텐서플로 블로그를 통해 밝혔다.

텐서플로 라이트 GPU팀이 기존 추론엔진에 주로 사용하던 오픈GL 대신 오픈CL을 도입함으로써 텐서플로의 성능을 극대화할 수 있음을 발견했다고 밝혔다.

오픈GL과 오픈CL 추론 지연 시간 비교(표=텐서플로)

오픈GL은 이미 출시한 지 30년 가까이 된 그래픽 렌더링 표준 API 규격으로 모바일 GPU의 잠재력을 모두 끌어낼 수 없는 단점이 있었다.

반면 오픈CL은 CPU와 GPU를 비롯해 다양한 장비를 사용해 벡터 그래픽 렌더링할 수 있도록 설계된 API로 보다 효율적으로 모바일 기기의 모든 자원을 활용해 성능을 끌어올렸다.

구글이 공개한 내용에 따르면 퀄컴 아드레노 GPU가 장착된 하드웨어 환경에선 최대 50% 성능이 향상됐다. 또한 화웨이 메이트20과 비보 Z3에서 신경 아키텍처 검색 시스템 MNASNet 1.3을 활용해 테스트한 결과 오픈GL에서 100ms 이상 걸린 작업을 4분의 1수준인 25ms 미만으로 줄였다.

다만 오픈CL은 아직 표준 안드로이드 배포버전에 포함돼 있지 않다. 그래서 이를 지원하지 않는 기기 등에선 오픈CL기반 모바일 GPU추론 엔진을 사용할 경우 오픈GL로 자동으로 전환된다.

텐서플로 이지현과 라만사로킨 소프트웨어 엔지니어는 “오픈CL이 모바일 GPU 추론엔진을 최적화 할 수 있는 많은 기능을 제공할 것”이라며 “이 밖에도 모바일 기계학습을 발전시키기 위한 다양한 기술을 연구하고 있다“고 공식 블로그를 통해 전했다.