AI가 만든 가짜 이미지, 지난해 초부터 급증

구글·듀크대 등 연구결과…" AI 이용한 가짜정보 너무 많아 추적 어려워"

인공지능(AI)이 만들어낸 이미지를 이용한 허위 정보가 지난해 초부터 급증했다는 연구 결과가 나왔다.

NBC 방송 등이 지난 29일(현지시간) 보도한 바에 따르면, 구글과 듀크대 연구팀은 팩트체크 사이트 및 미디어 단체와 최근 공동으로 집필한 논문에서 AI가 생성한 가짜 이미지가 2023년 초 이후 크게 늘어났다고 밝혔다.

연구팀은 팩트체크 매체 스노프스(Snopes)가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6천건의 팩트체크 사례를 분석했다.

AI가 만들어낸 가짜 이미지(제공=NBC)

연구 결과에 따르면 지난해 3월 프란치스코 교황이 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼지기 전만 해도 AI로 생성하는 가짜 이미지는 거의 없었다. 그러나 해당 사진이 이슈가 된 후 AI가 생성하는 가짜 이미지는 텍스트나 포토샵 등 전통적인 방법으로 만들어지는 허위 정보와 비슷한 수준이 될 정도로 급격히 늘었다.

연구팀은 "허위 정보 가운데 AI가 생성한 콘텐츠가 크게 증가한 것은 빠르게 변화하는 환경을 보여준다"고 분석했다.

이런 허위 정보의 급증은 AI를 통해 간편하게 정보를 만들 수 있게 된 점이 원인으로 꼽힌다. 지난 2022년 11월 출시된 챗GPT 이후 AI 열풍이 불면서 지난해에는 오픈AI와 구글 등 주요 기업들이 새로운 AI 이미지 생성 도구가 출시됐다. 

알렉시오스 만찰리스 국제팩트체킹네트워크 전 국장은 "생성형 AI 도구가 퍼지면서 거의 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있게 됐다고 말했다.

실제로 지난 1월에는 미국 유명 가수 테일러 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 등에서 확산됐고, 작년 3월에는 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했다.

최근 몇 달 동안에는 전통적인 텍스트와 이미지 조작도 다시 늘어나고 있는 것으로 조사됐다.

머신러닝 플랫폼 허깅페이스의 대표적인 AI 윤리 연구원인 사샤 루치오니는 "AI가 만들어낸 허위 정보가 줄어든 것은 아니다"며 "AI를 이용한 가짜 정보가 너무 많아 추적하기 쉽지 않기 때문"이라고 설명했다.