대선 선거운동했던 'AI 윤' 이젠 불가능…왜?

"저는 멀리서, 멀리서 두 분을 응원하겠습니다. 에너지 넘치게 파이팅!"

20대 대통령 선거 직전이던 지난 2022년 1월 초. 당시 윤석열 국민의힘 후보 유튜브에는 'AI 윤'이 등장해 "문재인 대통령과 이재명 후보가 동시에 물에 빠졌다면 누굴 먼저 구하겠는가"라는 질문에 재치있게 답변했다. '2021 SBS 연기대상'에서 "김세정 씨와 김유정 씨가 물에 빠지면 누구를 구하겠냐"라는 MC 신동엽의 기습질문에 배우 안효섭이 했던 대답을 패러디한 것이었다.

당시 'AI 윤'은 젊은 층 사이에서 인기를 끌었다. 다소 어색한 손동작과 표정에도 불구하고 각종 질문에 격 없이 답하는 모습을 보여 진짜 후보를 대신해 여러 역할을 해냈다는 호평도 받았다.

지난 20대 대선 당시 국민의힘이 만든 AI윤석열 영상. (사진=국민의힘 유튜브 캡처)

하지만 올해 '4월 총선'에선 인공지능(AI) 기술을 활용한 딥페이크를 볼 수 없게 됐다. 지난 달 29일부터 AI 기반 딥페이크를 활용한 선거운동이 전면 금지됐기 때문이다.

15일 업계에 따르면 정부는 두 달여 앞으로 다가온 '4.10 총선'을 앞두고 비상 체제에 돌입했다. AI 딥페이크가 잘못된 정보를 퍼뜨려 유권자들의 혼란을 부추기고 특정 후보를 불리하게 해 선거를 방해할까 우려돼서다.

'AI 윤'은 딥페이크를 긍정적으로 활용한 사례다. 하지만 이런 사례보다는 악용될 우려가 훨씬 더 크다. 대표적인 것이 상대 후보의 일탈 장면을 교묘하게 꾸미는 등의 방식으로 비방하는 딥페이크 영상이다.

그런가 하면 유명인이 특정 후보를 지지하는 것으로 꾸미는 등의 방식으로 유권자를 현혹시키는 영상이 유포될 우려도 있다. 실제로 지난 해 지방선거 때 'AI 윤'이 특정 후보 지지 발언을 하는 영상이 유포돼 논란이 제기되기도 했다.

이에 따라 이번 총선에선 딥페이크로 상대 후보를 비방하는 행위 뿐 아니라 'AI 윤' 같은 단순 홍보 영상을 활용하는 것도 전면 금지된다.

중앙선거관리위원회는 지난달 11일부터 AI 모니터링 전담 요원과 AI 전문가로 구성된 '허위사실 비방 AI(인공지능) 딥페이크 특별대응 모니터링반'을 만들어 상시 모니터링에 나섰다. 선제적 대응을 위해 허위사실공표·비방특별대응팀을 확대 편성·운영키로 했다.

경찰도 선거사범 수사상황실을 가동하고 딥페이크를 활용한 선거운동에 대해 단속에 나섰다. 경찰청 국가수사본부는 지난 7일 제22대 국회의원선거에 대비해 전국 278개 경찰관서에 선거사범 수사상황실을 설치했다. 이곳을 중심으로 24시간 대응체제를 갖춰 범죄첩보 수집을 강화하고 선거 관련 각종 불법행위에 대응할 계획이다.

선거운동서 딥페이크 퇴출…정치권도 대응 '분주'

이번 총선에선 선거 90일 전부터 딥페이크 영상 등을 활용한 선거운동이 전면 금지된다. 국회는 이같은 내용을 담아 지난해 12월 말 공직선거법을 개정했다. 선거운동을 위해 AI 기술 등을 이용해 만든 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 경우 7년 이하의 징역 또는 1천만원 이상, 5천만원 이하의 벌금에 처한다.

젤렌스키 우크라이나 대통령 딥페이크 영상 (출처=우크라이나24 페이스북)

정치권도 대응에 나섰다. 국민의힘은 정책위원회 산하에 미디어정책조정특별위원회를 신설했다. 위원회는 방송과 통신, 콘텐츠 분야 실무 및 법률 전문가를 포함한 9명으로 구성됐다. 더불어민주당은 딥페이크 제작물이나 AI댓글 문제 대응을 위한 전담 태스크포스(TF)나 특위 등을 구성하진 않았으나, 관련 문제를 살피고 있다.

업계 관계자는 "딥페이크 기술이 활용된 제작물은 지난 대선 때처럼 긍정적인 차원에서 후보의 부족한 선거운동 시간을 채우기 위해 쓰이기도 하지만 영상과 음성도 복제가 가능하다는 점에서 특정 후보를 불리하게 하는 목적으로도 악용될 수 있다"며 "딥페이크 적용 제작물이 불특정 다수에게 순식간에 퍼지기 쉬운 것에 비해 삭제나 차단을 위해서는 오랜 시간이 걸리는 속성을 감안해 정부, 정치권 모두 신경써서 관리하는 분위기"라고 말했다.

트럼프가 경찰에 체포됐다?…사회적 문제된 '딥페이크'

딥페이크 기술은 AI 기반으로 조작된 영상을 만들어 사실 같이 보이게 한다. 시각, 이미지, 음성에 알고리즘을 적용해 식별하기 어려운 가짜 미디어 콘텐츠를 만들어 주는 것이 특징이다. 악용될 경우 유명인의 얼굴과 목소리로 허위정보를 퍼뜨려 부당한 이득을 취하거나, 불법적인 음란 콘텐츠를 만드는 등 사회를 혼란에 빠뜨릴 수 있다.

실제로 이런 사례들이 빈번해지면서 국내외서 문제가 되고 있다. 오는 11월 대통령 선거를 앞둔 미국에서도 딥페이크 때문에 소동을 겪었다. 지난 달 뉴햄프셔 프라이머리(예비선거)를 앞두고 조 바이든 대통령의 목소리를 복제해 경선 불참을 권유하는 음성이 유포돼 파장이 일었다. 바이든 대통령 특유의 화법까지 모방한 이 음성은 2만5천여 명에게 유포됐고, 백악관은 결국 "그 전화는 가짜"라고 해명까지 했다.

도널드 트럼프 전 미국 대통령도 딥페이크로 한동안 논란의 중심에 섰다. 지난해 3월 '성추행 입막음'으로 기소된 후 경찰에 체포되는 가짜 사진이 소셜미디어(SNS)를 중심으로 급속도로 퍼진 것이다. 이 사진이 AI로 만들어진 것으로 판명난 후 바이든 대통령은 AI 활용에 대한 규제 방안을 담은 행정명령을 발표했다.

SNS를 중심으로 퍼진 도널드 트럼프 전 미국 대통령 체포 사진. 딥페이크 등 AI기술을 활용한 프로그램을 통해 제작된 가짜사진으로 판명났다. (사진=X 캡처)

튀르키예에선 실제 선거에 딥페이크가 영향을 미치기도 했다. 지난해 5월 치러진 대선에서 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당연합의 케말 클르츠다로을루 후보를 지지하는 가짜 영상이 공개돼 논란이 됐고, 결국 해당 후보는 대선에서 패했다.

국내에선 지난해 지방선거를 앞두고 국민의힘 지지자로 추정되는 인물이 'AI 윤석열'을 활용해 당시 국민의힘 남해군수 후보를 지지하는 영상을 제작해 논란이 됐다.

이정수 딥브레인AI 사업개발실 이사는 "국내 총선과 미국 대선 등 주요 선거를 앞두고 딥페이크 기술을 악용한 이미지, 영상 등이 유포돼 유권자들이 혼란을 겪고 있다는 점에서 우려된다"면서도 "AI 기술을 잘 활용하면 시간과 비용을 절약하면서 성별, 연령, 지역 등 유권자에 맞춰 공약을 효과적으로 전달할 수 있다는 것은 장점"이라고 설명했다.

선거 때 딥페이크 근절 나선 기업들…실효성은 '글쎄'

이런 문제들이 불거지자 국내외 기업들도 속속 대응에 나섰다. 미국 생성형 AI 기업인 미드저니는 최근 주요 미국 대선 후보의 정치적 이미지를 생성하는 것을 금지하는 방안을 추진키로 했다. 챗GPT 개발사 오픈AI는 한 미국 민주당 경선 후보의 선거용 챗봇인 '딘닷봇' 운영을 금지했다. 딘닷봇을 개발한 AI 스타트업 델파이 계정을 중단시키고, 챗봇도 삭제했다.

딥브레인AI가 딥러닝 기반 딥보이스 탐지 기술 특허를 출원했다. (사진=딥브레인AI)

국내 기업들도 속속 나서고 있다. 지난 대선 때 'AI 윤석열'을 선보인 국내 스타트업 딥브레인AI는 이번 총선을 앞두고 딥페이크 영상을 탐지하는 솔루션을 서비스형소프트웨어(SaaS) 형태로 내놨다. 네이버는 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화했다. 또 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다.

일각에선 선거 기간 동안 딥페이크를 막기 위해 관련 법을 만들고, 기업들까지 대책 마련에 나섰지만 실효성이 있을지에 대해선 의문을 표했다.