어도비 "한국 소비자, 생성 AI의 콘텐츠 조작 가능성 우려 커"

어도비는 1천명 이상의 국내 소비자를 대상으로 조사한 ‘신뢰의 미래(Future of Trust)’ 보고서를 9일 발표했다.

글로벌 조사의 일부로 진행된 이번 결과는 온라인 상 잘못된 정보에 대한 국내 소비자들의 경험 및 생성형 AI의 영향에 대한 우려에 초점을 두고 있다.

어도비는 책임 있는 혁신(Responsible Innovation)의 일환으로, 생성형 AI와 잘못된 정보의 사회적 영향에 대한 대중적 인식과 정서를 파악하기 위해 이 조사를 진행했다. 보고서에 따르면 소비자들은 디지털 콘텐츠의 신뢰성을 검증할 수 있는 툴이 필요하다고 입을 모았다. 잘못된 정보가 선거와 같은 전 세계적인 이슈에 미칠 잠재적 영향을 해결하기 위한 선제적 조치도 시급하다고 강조했다.

잘못된 정보는 사회가 직면한 가장 큰 위협 중 하나로 간주되며, 이를 확산하는 특정 플랫폼의 신뢰 하락에도 영향을 미치고 있다. 잘못된 정보가 점점 더 기승을 부리는 가운데, 한국인의 89%는 온라인에서 소비하는 콘텐츠가 잘못된 정보를 유발하기 위해 변조될 수 있다는 점을 우려하고 있다.

상당수의 국내 소비자들(79%)은 온라인에서 소비하는 콘텐츠의 신뢰성을 확인하는 것이 점점 더 어려워진다고 답했다.

전체 응답자의 40%는 잘못된 정보로 인해 특정 소셜 미디어 플랫폼의 사용을 중단하거나 줄였다고 전했다. 이는 잘못된 정보에 대한 우려가 소비자의 소셜 미디어 플랫폼 사용에 영향을 미치고 있음을 반증한다.

대부분의 사람들은 콘텐츠 공유에 앞서 출처의 신뢰성을 따지고 있으며, 콘텐츠의 사실 여부를 확인할 수 있는 툴과 미디어 리터러시 스킬이 필요하다는 데 공감했다.

온라인 콘텐츠에 대한 신뢰 여부를 파악할 수 있는 올바른 툴을 갖추는 게 중요하다고 답한 국내 소비자는 한국인 10명 중 9명(90%)에 달했다. 78%는 자신이 소비하는 콘텐츠가 AI를 통해 생성된 것인지 아는 것이 중요하다는 데 동의했다. 어린이 대상의 미디어 리터러시 스킬을 교육 과정의 일부로 가르쳐야 한다고 답한 국내 소비자도 87%로 나타났다. 이는 잘못된 정보에 대한 우려가 아동에게 미칠 잠재적 영향으로 확산되고 있음을 보여주는 결과다.

디지털 콘텐츠에 대한 신뢰가 하락되는 가운데, 소비자들은 선거의 공정성 보호를 우려하고 있다. 올해 전 세계 40억 명 이상이 투표에 참여할 것으로 예상되는 가운데, 89%의 응답자는 잘못된 정보와 유해한 딥페이크가 미래 선거에 영향을 미칠 것이라고 응답했다.

소비하는 온라인 콘텐츠의 진위 판단을 위한 툴이 보편화되지 않은 상황에서, 상당수(76%)는 선거 홍보 콘텐츠에서 생성형 AI 사용을 금해야 한다고 답했다. 이 밖에 정부와 기술 기업이 딥페이크와 잘못된 정보의 악영향으로부터 선거의 공정성을 보호하기 위해 함께 노력해야 한다고 말한 응답자도 88%에 달했다.

다나 라오 어도비 법률 고문 겸 최고 신뢰 책임자는 “우리는 창의성과 생산성을 혁신할 수 있는 생성형 AI의 힘에 큰 기대를 갖고 있다”며 “어도비는 AI 기술을 상업적으로 선보이는 선두 기업으로서, 오랫동안 이러한 기술이 사회에 미치는 영향에 대해 고민해왔다”고 밝혔다.