고삼석 교수, AI윤석열에 "정치적 목적 딥페이크 신중해야"

서구권 국가에선 정치적 목적 AI 사용 제한..."선관위가 나서야"

방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌교수가 윤석열 국민의힘 대선 후보의 AI 아바타 이용을 두고, ‘딥페이크(deep-fake)’ 사용은 매우 제한적으로 신중해야 한다고 지적했다.

7일 고삼석 교수는 자신의 페이스북 계정에 “가상 인물이 아닌 실제 인물에 딥페이크 기술을 사용하는 것은 훨씬 더 신중해야 한다”면서 AI윤석열에 대한 비판의 목소리를 냈다.

앞서 국민의힘 중앙선거대책위원회는 지난 6일 서울 올림픽체조경기장에서 선대위 출범식을 열고 AI 윤석열을 등장시켰다. 국민의힘은 AI 윤석열을 윤 후보가 직접 방문하기 어려운 곳에 등장시켜 유권자를 상대로 윤 후보의 정책과 비전을 알리는 데 활용할 계획이라고 밝혔다.

윤석열 후보의 음성과 시각적인 모습을 학습해 실제 후보를 대신해 연설하는 영상을 연출하는 식이다.

사진 = 뉴스1

딥페이크는 주요 ICT 회사들이 연구개발에 뛰어든 분야로, 머신러닝 기술 가운데 비지도학습을 통해 정답이 제시되지 않은 상태에서 컴퓨터가 스스로 학습하는 알고리즘 방식으로 영상이나 사진, 음성 등을 만들어낸다. 단순 제작 아바타와는 구별되는 기술이다.

이 기술이 널리 알려진 계기는 미국 대통령 선거에서 트럼프 전 대통령을 모방한 영상으로, 대표적인 딥페이크의 악용 사례다.

대중들이 트럼프 전 대통령처럼 믿게 하고 거짓된 메시지를 전달했기 때문이다. 동시에 트럼프 전 대통령이 기성 미디어와 ‘가짜뉴스’ 논쟁을 벌이면서 더욱 화두가 되기도 했다.

고삼석 교수는 “딥페이크 기술 사용은 매우 제한적으로, 신중하게 사용해야 한다”며 “선의든, 악의든 그것 자체가 타인을 속이기 위한 가짜(fake)이기 때문이다”고 운을 뗐다.

이어, “딥페이크 기술을 적용해 윤석열 후보의 아바타를 도입한 목적은 좋지 않은 후보의 이미지와 부족한 언변을 속이기 위한 것 아니냐”며 “유권자 대상으로 후보 이미지 조작을 하겠다는 선언”이라고 꼬집었다.

그는 특히 “미국을 비롯한 유럽 국가에서는 정치적 목적의 AI 혹은 딥페이크 기술 사용을 매우 엄격하게 제한하고 있다”고 비판을 이어갔다.

고삼석 교수는 “미국 정치권과 언론에서도 크게 이슈화 됐고 이것 때문에 지난해 미국 대선 당시 페이스북, 트위터, 인스타그램 등이 엄격한 자체 가이드라인을 만들어 이용자들에게 적용했다”고 설명했다.

그러면서 “우리도 AI와 딥페이크 기술의 정치적 이용에 대한 나름의 가이드라인을 만들어야 한다”면서 “선관위부터 나서야 하고, '가짜 윤석열'을 만들어서 대선기간 동안 사용하겠다는데 우리 언론은 아무런 비판 없이, 호기심 가득한 시선으로 단순 소개하는 것으로 일관하고 있다”고 비판했다.