"생성 AI 기반 가짜뉴스, 선거철 영향 미쳐"

인공지능(AI)을 사용한 허위 정보 확산 위험성으로 국내외 정치계가 경계하고 있다. 생성 AI로 제작된 거짓 텍스트, 이미지, 동영상이 인터넷을 통해 빠르게 전파될 수 있어서다. 전문가들은 유권자들이 특정 후보에 대한 AI 가짜 정보를 선거 기간에 받아들일 경우, 투표 선택에 큰 영향을 줄 수 있다고 주장한다.

가장 먼저 우려한 나라는 미국과 영국이다. 두 국가 모두 내년 대선과 총선을 각각 앞두고 있다.

실제 미국에서는 AI로 인한 가짜뉴스가 성행하고 있다. 올해 1월 조 바이든 미국 대통령 조작된 비디오가 첫 시작이다. 특정 집단이 생성 AI로 바이든 대통령 음성을 조작해 인터넷에 퍼뜨렸다. 바이든 대통령은 원본 비디오 영상에서 "우크라이나를 돕기 위해 탱크를 지원하자"고 발언했다. 해당 집단은 이 장면을 음성 생성 AI 기술을 통해 트랜스젠더에 대한 공격을 담은 발언으로 변형했다.

미국 영상 분석가 알렉산더 레슬리는 "생성 AI로 인한 허위 정보는 미국 대통령 선거를 앞두고 더 활개 칠 것"이라며 "이는 기술 산업과 정부에 많은 시사점을 안겨준다"고 영국 더 가디언을 통해 21일(현지시간) 밝혔다. 레슬리는 "앞으로 AI에 대한 교육 없이는 허위 정보 세계에서 벗어날 수 없다"며 "대통령 선거기간 동안 큰 위험이 될 수 있다"고 경고했다.

미국 컨퍼전스미디어 톰 뉴하우스 디지털마케팅 부사장은 "2008년과 2012년이 페이스북 선거였다면 내년은 AI 선거일 것"이라며 "전보다 훨씬 더 파격적이고 치열한 경쟁이 펼쳐질 것"이라고 미국 정치매체 악시오스와 진행한 인터뷰에서 예측한 바 있다.

영국 정치계도 AI 기반 허위 정보 위험성을 지적했다. 리시 수낙 영국 총리는 "AI 가짜뉴스는 기존 프로파간다(선전) 봇과는 다르다"고 밝혔다. 수낙 총리는 "이전 봇들은 사전에 작성된 메시지를 반복적으로 보내는 형태에 그쳤다"며 "제한된 메시지를 여러 사람에게 동시다발적으로 보내는 단순한 형태였다"고 설명했다.

그는 "반면 생성 AI를 활용한 봇은 사용자에 따라 맞춤형 허위 정보를 생성해 낼 수 있다"며 "이는 선거철에 대규모로 여론을 조작할 수 있다"고 지적했다.

한국 정치계도 AI 가짜 뉴스에 우려하고 있다. 국민의힘 송석준 의원은 지난주 여의도 국회에서 열린 한 행사에서 “앞으로 생성 AI로 만든 가짜뉴스가 곧 국내 정치권에도 밀려들 것”이라고 지적한 바 있다.