넷마블, AI 인식 안면 애니메이션 생성 기술 공개

그래픽 기술 컨퍼런스 시그라프 아시아

넷마블(대표 권영식, 이승원)은 일본 도쿄(Tokyo) 및 온라인에서 동시 개최된 시그라프 아시아 2021(SIGGRAPH Asia 2021)에서 음성 대사 감정을 자동 인식해 안면 애니메이션을 생성하는 기술(Emotion Guided Speech-Driven Facial Animation)을 공개했다고 20일 밝혔다.

지난 14일부터 17일까지 개최됐던 시그라프 아시아는 세계 최고 권위의 그래픽 기술 분야 컨퍼런스로, 게임 및 그래픽 디자인, 컴퓨터 애니메이션 및 상호작용 기술, 시각 효과 등에 관한 다양한 연구 주제를 다룬다.

넷마블이 이번 컨퍼런스에서 공개한 기술의 핵심은 시스템 상에 음성 데이터를 입력하면 AI가 자동으로 음성 대사에서 감정을 분석 및 추출하고, 해당 감정에 맞는 자연스러운 얼굴 표정과 립싱크 애니메이션을 게임 캐릭터에 적용하는 것이다. 궁극적으로는 현실적이고 생동감 있는 3D 그래픽 효과 연출을 자동화하는 것을 목표로 하고 있다.

(왼쪽부터) 넷마블 AI센터 조영박, 강신동, 오인수 실장, 안수남 팀장, 최대근.

논문 발표를 진행한 넷마블 안수남 팀장(AI센터)은 “넷마블이 자체 개발한 본 기술은 음성 감정 인식, 얼굴 표정, 립싱크 등 세 가지 모듈을 종합하여 실제 사람 표정 같은 자연스러운 그래픽을 구현할 수 있는 모델”이라며 “기쁨과 슬픔, 두려움 등 여러 감정 표현에 관한 일정한 기준을 만들고, 여기에 각각 다른 강도를 부여하여 풍부한 감정 표현을 자동으로 생성하는 것이 핵심이다”라고 전했다.

넷마블의 오인수 실장은 “이 기술을 적용함으로써 게임 이용자의 몰입도 향상뿐만 아니라 개발 기간 단축 등 여러 부가적인 순기능도 기대하고 있다”라며, “다양한 언어 기반 음성 처리를 할 수 있는 만큼, 향후 글로벌 신작 개발에도 적극 적용할 수 있도록 기술을 고도화해 나가겠다”라고 덧붙였다.

한편, 넷마블은 지난 11월 개최된 EMNLP 2021의 AI 번역 후보정 기술 챌린지에서 한국 게임업계 최초로 우승을 차지한 것을 비롯해 AI 분야 세계 최고 권위 컨퍼런스인 NeurIPS 2020에서 <MONICA: MObile Neural voIce Command Assistant for mobile games> 논문으로, IEEE ICASSP 2020에서 <Robust End-to-end Keyword Spotting and Voice Command Recognition for Mobile Game> 논문으로, INTERSPEECH 2019에서 <Robust Keyword Spotting via Recycle-Pooling for Mobile Game> 논문으로 기술 발표를 진행해 넷마블의 인공지능 분야 기술력을 입증한 바 있다.