[기고] 인간이 직접 만든 콘텐츠입니다

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]

A씨는 건강을 위해 달리기로 결심했다. 혼자 뛰다 보니 여러 명이 함께 달리는 러닝 크루들이 보였고, A씨도 러닝 크루를 만들어 뛰는 것이 더 재미있을 것 같았다. A씨는 달리기 모임을 만들고 신규 회원 모집에 나섰다. 회원을 모집하려니 모임을 상징하는 이미지가 있으면 좋겠다는 생각이 들었다.

아쉽게도 A씨는 상상력은 풍부한 편이지만 그림 그리기에 영 소질이 없다. 하지만 걱정할 필요가 없다. A씨는 머리에 떠오른 이미지를 AI에게 설명하고 이미지를 만들어 보라고 시킨다. AI가 만든 이미지를 보며 A씨가 몇가지 수정 아이디어를 주니 꽤 쓸만한 이미지가 나온다.

AI가 발전하면서 흔히 볼 수 있게 된 모습이다. 이미지뿐 아니라 AI를 이용해 프롬프팅으로 영상이나 음악, 애플리케이션을 만들기도 한다. 개인 취미 활동에만 이용되는 것이 아니다. 한국콘텐츠진흥원에 따르면 국내 콘텐츠 산업 종사자들이 생성형 AI를 이용하는 비율이 2025년 상반기에 20%에 달했다. 지난 2024년 하반기보다 약 7% 늘어난 것이라고 하니 1년이 지난 지금은 그 비율이 훨씬 높아졌을 것이다.

AI는 콘텐츠 제작에 많은 도움을 주고 있지만 악용되는 사례도 많다. AI를 이용해 마치 진짜인 것처럼 만들어 내는 딥페이크에 대해 일반인들이 조작된 것인지 확인하기는 쉽지 않다. 특정 세력 여론몰이나 트래픽을 늘려 수익을 얻기 위해서 등 다양한 목적으로 딥페이크가 쏟아지고 있다.

최근 중동에서 일어난 이란 전쟁을 예로 들어 보자. 이란 전쟁은 다양한 방향에서 AI가 본격적으로 이용된 전쟁으로 볼 수 있는데, AI로 가짜 사진이나 동영상을 정교하게 생성하여 여론에 혼란을 주기도 했다. 예를 들어 아랍에미리트 두바이에 있는 세계 최고층 건물 부르즈 할리파가 드론 공습을 받는 사진과 동영상이 사회관계망서비스(SNS) 등에 널리 퍼졌지만 AI로 생성되거나 변경된 가짜 이미지로 확인이 됐다.

딥페이크가 광고에 도입되면 더 혼란을 줄 수 있다. 어느 분야의 권위있는 인물 이미지를 활용해 어떤 제품을 권하는 것처럼 합성한다거나, 의약품의 경우 사용 전후 변화 이미지를 AI를 이용해 효과를 과장할 수도 있다. 이런 문제로 인해 AI가 생성한 결과물이라는 사실을 알리도록 하는 방안이 추진되고 있다. 옛 트위터인 엑스(X)는 무력 충돌을 다룬 영상과 이미지를 AI로 생성할 때 AI 생성 결과물임을 밝히지 않고 게시하는 이용자에게 광고 수익 공유를 중단하겠다고 발표했다.

AI를 이용해 생성한 실제와 구분하기 어려운 이미지, 영상 등 딥페이크에 대해 'AI를 이용해 생성됐다'는 사실을 이용자가 명확하게 알 수 있도록 표시할 의무를 법제화하려는 움직임도 나타난다. 유럽연합(EU)은 'AI 액트(Act)'에서 AI 시스템 배포자(deployer)에게 딥페이크 콘텐츠가 인위적으로 생성 또는 조작됐다는 것을 공개하도록 정하고 있다. 이에 EU는 실시간 영상, 비(非)실시간 영상, 이미지, 오디오 등 콘텐츠 종류별로 딥페이크임을 표시하는 방법에 대한 가이드라인을 발표했다.

우리나라도 텍스트, 이미지, 동영상, 음성 등 콘텐츠 종류 별로 표시 방법에 대한 가이드라인이 나와 있다. 최근 국회 본회의를 통과한 의료기기법 개정안은 딥페이크를 활용하여 관련 분야 전문가가 의료기기를 보증, 추천 등 하는 것으로 오인하게 할 우려가 있는 광고를 금지했다.