EU "가짜는 안 돼" vs 트럼프 "AI는 나의 힘"

유럽연합(EU)의 핵심 기구들이 직원들의 공식 문서 및 대외 소통에서 인공지능(AI)으로 생성한 이미지나 영상 사용을 전면 금지하고 나섰다. 이는 AI 생성 콘텐츠를 선거 운동과 홍보에 적극적으로 활용하고 있는 도널드 트럼프 미국 대통령의 행보와 극명한 대조를 이룬다.

최근 정치 매체 폴리티코 보도에 따르면 유럽위원회(EC), 유럽의회, 유럽연합 이사회는 온라인상에서 딥페이크와 AI 생성 콘텐츠에 대한 감시가 강화됨에 따라, 소속 직원과 홍보팀의 AI 콘텐츠 사용을 금지한다는 방침을 세웠다. 온라인에 정교하지 않거나 오해를 불러일으킬 수 있는 AI 콘텐츠가 범람하는 상황에서, 공공기관 메시지의 ‘신뢰성’을 최우선으로 지키겠다는 의지로 풀이된다.

영국의 AI 비디오 생성 기업 ‘신테시아’의 정책 책임자 알렉산드르 보이카는 “EU가 리스크를 먼저 고려하는 것은 당연한 수순”이라며 “해당 콘텐츠가 기만적이거나 유해하게 받아들여질 가능성은 없는지, 현실을 왜곡하고 있지는 않은지, 그리고 명확한 설명 책임과 정보 공개가 가능한지가 핵심”이라고 분석했다.

SNS에서 제시카 포스터라는 이름의 미 육군 여군을 자칭하는 계정이 화제가 됐다. 이 계정은 트럼프 대통령에 대한 강력한 지지를 표명하고 애국심을 부추기면서 섹시한 이미지를 게시함으로써 운용 개시 후 불과 4개월 만에 100만 이상의 팔로워를 획득했지만, 실은 AI에 의해 생성된 가공의 존재였다.

반면, 지정학적 위기가 고조되는 상황에서 공공기관이 온라인 영향력을 확보해야 한다는 목소리도 높다. 이 때문에 AI 콘텐츠를 무조건 금지하는 것이 최선인지에 대해서는 회의적인 시각도 존재한다.

벨기에의 홍보 대행사 ‘익스포저’를 운영하며 여러 정당에 자문을 제공해 온 르노 반 잔디케는 “딥페이크가 신뢰를 해칠 위험이 있다고 해서 공공기관이 AI를 아예 외면하는 것 역시 실익이 없다”고 주장했다. 케임브리지 대학 연구원이자 경제협력개발기구(OECD) 자문위원인 월터 파스콰렐리 또한 “전면 금지보다는 ‘책임 있는 사용’이 더 나은 대안”이라고 지적했다.

조사에 따르면 AI가 생성한 콘텐츠의 양은 이미 인간이 제작한 콘텐츠 양을 넘어섰으며, 2025년 한 해 동안 온라인에 공유된 딥페이크는 무려 800만 건에 달한 것으로 집계됐다. 정치권도 예외는 아니다. 네덜란드와 아일랜드에서는 이미 딥페이크가 선거운동에 영향을 미치고 있으며, 공식 소통에 AI를 활용하는 정치인도 급증하고 있다.

도널드 트럼프 대통령 트루스 소셜 캡처. 왕관을 쓰고 제트기를 조종하는 가짜 영상이 게재됐다.

대표적인 인물이 도널드 트럼프 미국 대통령이다. 그는 자신이 만든 SNS ‘트루스 소셜’을 통해 다양한 AI 생성 이미지를 게시해 왔다. 왕관을 쓴 채 제트기를 조종하는 모습, 검을 뽑아 든 자신의 앞에 민주당 지도부들이 무릎을 꿇고 있는 모습 등이 대표적이다. 보고에 따르면 2024년 10월 기준으로 이미 36건의 AI 생성 콘텐츠를 올린 바 있으며, 취임 이후에도 이런 기조를 유지하고 있다.

최근에는 SNS에서 트럼프를 강력히 지지하며 애국심을 고취했던 미 육군 여군 ‘제시카 포스터’라는 인물이 사실은 100% AI로 생성된 가공의 존재였다는 사실이 밝혀져 충격을 주기도 했다.

EU의 접근법은 이런 미국의 사례와 정면으로 배치된다. 토마스 레니에 유럽위원회 대변인은 폴리티코와의 인터뷰에서 “우리가 언론이나 대중에게 제공하는 공식 정보와 이미지에는 AI 생성 콘텐츠가 포함되지 않는다”고 단언했다. 시민의 신뢰를 얻기 위해서는 발신하는 콘텐츠의 진실성이 무엇보다 중요하다는 견해다. 다만, 화질 개선 등 단순 최적화 작업을 위해 AI 도구를 사용하는 것은 허용된다고 덧붙였다.