AI가 낳은 괴물, 딥페이크 어떻게 막나

“딥페이크로 의심되는 미디어를 보고 난 뒤 감정적으로 반응하는지 살펴봐라. 왜 그렇게 느꼈는지 다시 생각해보라. 이전까지 별 생각없이 딥페이크로 의심되는 것들을 SNS에 공유했다면, 이제는 잠시 멈추고 정보를 검색해보라.”

딥페이크 탐지기술 전문 회사인 씨에틱의 홍민기 소장은 6일 시청자미디어재단이 개최한 팩트체크 주간행사 컨퍼런스에 연사로 참여해 이같이 말했다.

딥페이크 영상이나 사진을 구분하는 일반적인 규칙이 존재하지 않지만, 스스로 어떤 감정을 느꼈는지 추스려보는 것이 가장 기본적인 딥페이크 대응 방법이란 설명이다.

인공지능 기술의 급격한 발전으로 여러 분야에서 긍정적인 영향도 있지만, 딥페이크는 부정적 영향이 두드러지는 분야다.

지난 2017년 레딧에서 처음 시작된 것으로 알려진 딥페이크는 실제하지 않는 인물의 영상을 만드는 선에 그치지 않고 유명인의 얼굴을 도용해 그 사람인 것처럼 믿게 하는 사례가 다수 발생하고 있다.

■ 딥페이크는 어떻게 만들어졌나

딥페이크는 AI 머신러닝 기술 가운데 비지도학습을 통해 제작된다. 정답을 제시하지 않은 상태에서 컴퓨터가 스스로 학습하는 알고리즘 방식이다. 이에 따라 데이터의 특성을 스스로 파악하면서 가상의 것들을 창출하는 방식이다.

이를 두고 디지털 콘텐츠 창조의 신기술로 꼽히며 각광을 받기도 했다. 저화질의 영상을 고화질로 전환하는 AI 기반 업스케일링이 대표적이다.

세계 TV 시장을 양분하고 있는 삼성전자와 LG전자도 이같은 기술을 상용화하고 있고, 방송사에서도 과거 영상을 생생하게 살려내는데 ICT 업계와 협력키도 하는 분야다.

또 가상의 이미지를 생성해 초상권이나 지식재산권 등의 법적 이슈가 없는 익명화 얼굴을 만들어내 챗봇이나 온라인 광고 등에서 산업적으로 활용하는 방안도 업스케일링과 함께 대표적인 딥페이크에 속한다.

딥페이크가 이처럼 널리 쓰이고 기술 발전이 빠른 점은 딥페이크 기술이 다른 AI 기술과 경쟁적으로 발전하기 때문이다.

홍민기 소장은 “딥페이크를 만드는 자와 식별하는 자의 경쟁을 통해 학습하는 생성적 적대 신경망 방식에 따른 것”이라며 “경찰과 위조지폐범이 더 진짜같은 지폐를 만드는 기술과 이를 구별하는 기술이 맞부딪히는 것과 같다”고 설명했다.

■ 딥페이크가 만들어낸 디지털 불신

딥페이크가 악용된 사례로 트럼프 대통령을 모방한 영상이 대표적으로 알려져있다.

이외에도 다양한 부정 사례가 늘고 있다. 최근 유럽에서 어떤 회사의 CEO 목소리를 본따 음성지시로 25만 유로를 송금하는 피해 사례가 있었다. 국내에서도 관련된 보이스피싱 범죄가 발견되고 있다.

지난해 한국 사회를 뜨거운 논란으로 몰고 간 n번방 사건에서도 딥페이크 피해 사례가 나왔다. 불법 포르노 영상에 케이팝 가수 여성 연예인 얼굴을 합성한 영상이 다수 유통된 것이다.

러시아의 한 미용실 관련 후기가 딥페이크로 나타났다. 실제 소비자인 것처럼 가장한 머리 사진을 올리며 허위 리뷰를 다른 소비자들이 볼 수 있게 한 것이다. 온라인으로 누구나 볼 수 있는 상품 리뷰에 딥페이크 조작이 나타나기 시작한 사례다.

미디어 왜곡 사례도 나왔다. 지난해 팔레스타인 인권 운동가를 비안해 온 유대인이 있었는데 나중에 알고 보니 실제 존재하지 않는 가상 인물이 여러 언론에 기고를 해온 것으로 드러났다.

■ 딥페이크 범죄 대응 활발

디지털 사회에서 신뢰를 붕괴시킬 수 있는 딥페이크를 두고 다양한 대응 활동이 펼쳐지고 있다.

페이스북은 지난해 대통령선거를 앞두고 딥페이크 영상을 전면 삭제했다. 또 아마존, 마이크로소프트, MIT 등과 딥페이크 탐지 대회를 열기도 했다.

딥페이크 영상 탐지 기술은 피부 혈색을 통해 생리적인 특징을 탐지하거나 픽셀 단위의 이미지 파일을 탐지하는 기술이 쓰인다. 또 주파수 기반으로 탐지하는 기술도 있다.

이날 발제를 맡은 시에틱은 주파수 기반 탐지 기술을 통해 최근 10만장을 테스트해본 결과 한 장의 딥페이크 영상을 놓쳤다고 밝혔다.

이같은 기술적 대응과 법제도를 통한 대응도 마련되고 있다. 지난 2019년 미국 버지니아주가 딥페이크 포르노 유포 금지법을 시행했고, 싱가포르에서는 온라인 상 거짓과 조작에 대한 보호법을 시행해 강력한 처별 규정을 세웠다.

관련기사