생성형 인공지능(AI)이 일상 깊숙이 파고들면서 디지털 세상의 신뢰가 새로운 시험대에 올랐다. AI가 만든 가짜 이미지와 영상이 진짜처럼 유통되고, 허위정보와 사칭 범죄가 확산하면서 온라인에서 무엇을 믿어야 할지 판단하기 어려워지고 있다. 기술의 발전 속도에 비해 이용자 보호와 사회적 대응 체계는 여전히 부족하다는 지적도 나온다. 지디넷코리아는 ‘안전한 AI의 길을 묻다’ 기획을 통해 AI가 가져온 디지털 환경 변화와 그 이면의 문제를 짚어본다. 피해 실태와 제도적 한계, 플랫폼의 책임, 시민의 디지털 리터러시 등을 살펴보고 건강하고 신뢰할 수 있는 디지털 생태계를 만들기 위한 해법을 모색한다. [편집자주]
지난 2023년 A씨는 유튜브에서 한 투자 모임을 알게 됐다. 모임에선 배우 조인성과 송혜교가 출연한 광고 영상까지 보여줬다. 두 배우는 광고 영상에서 투자 모임을 응원하는 듯한 발언을 했다.
평소 조인성을 좋아하고 송혜교가 출연한 드라마도 즐겨 봤던 A씨는 광고 영상을 통해 두 배우가 투자 모임을 적극 지지하는 것으로 믿었다. 결국 A씨는 다섯 차례에 걸쳐 총 6300만원을 송금했다.
하지만 A씨를 현혹했던 광고 영상은 가짜로 판명됐다. 해당 영상 분석 업체에 따르면 A씨가 봤던 광고는 인공지능(AI) 기술을 활용해 두 배우의 얼굴과 입 모양, 음성을 조작한 것이었다. 조작된 영상을 진짜로 믿었던 A씨는 별다른 의심 없이 많은 돈을 송금했다.
지난 1월에도 유사한 피해가 발생했다. 한 이용자가 틱톡 라이트에서 유명인을 사칭한 합성 광고를 보고 투자 대화방에 참여했다. 이후 대화방에서 추천받은 가짜 증권사 앱을 설치했다가 7억원이 넘는 돈을 잃었다. 당시 경찰에는 틱톡 광고를 통해 투자 대화방에 들어갔다가 사기 피해를 봤다는 신고가 여러 건 접수됐다.
얼마 전엔 페이스북에 방송인 강호동을 사칭한 주식 투자 광고가 올라와 논란이 됐다. 광고 글에서 강호동은 "존리 전 메리츠자산운용 대표에게 투자 방법을 배워 큰 수익을 올렸다"고 주장했다. 아랫부분에는 강호동이 출연한 실제 방송 장면까지 첨부됐다. 광고는 '80%의 승률'을 보장한다며 투자 정보를 공유하는 대화방에 참여하도록 유도했다. 특히 이 광고는 텍스트음성변환(TTS) 기술을 이용해 실제 강호동이 발언한 것처럼 만들어 투자자들을 현혹했다.
생성형 인공지능(AI) 기술이 발전하면서 유명인의 얼굴과 목소리를 활용한 가짜 광고가 기승을 부리고 있다. 문제는 이런 가짜 광고가 허위정보 유포나 금융사기 등에 악용될 수 있다는 점이다. 특히 유명인을 전면에 내세우는 방식으로 투자자들의 경계심을 누그러뜨리는 사례가 늘고 있어 각별한 주의가 요망된다.
AI로 만든 이미지와 영상이 정교해지면서 외관만으로 진위를 판단하기도 어려워졌다. 따라서 유명인이 등장한 영상이라도 내용이 미심쩍거나 지나치게 많은 혜택을 강조할 경우엔 별도로 확인해 볼 필요가 있다.
전문가들은 콘텐츠의 외양보다는 누가 어떤 목적으로 만들었고, 그 안에 담긴 주장을 뒷받침할 근거가 있는지 확인하는 태도가 중요하다고 강조했다.
익숙한 얼굴이라 믿었다…유명인 신뢰 악용하는 AI 사기
유명인을 사칭한 광고가 실제 피해로 이어지는 배경에는 익숙한 인물에 대한 신뢰가 작용한다는 분석이 나온다. 평소 방송이나 온라인에서 자주 접한 인물이 특정 상품이나 투자를 추천하면 광고 내용까지 신뢰할 가능성이 높아진다는 것이다. 특히 얼굴과 목소리를 합성한 영상은 실제 당사자가 직접 말하는 것처럼 받아들여질 수 있다.
나은영 서강대 교수는 “이미 신뢰도가 확보된 사람이나 유명인의 경우, 그 사람이 이야기하는 것은 믿을 만하다는 가정이 마음속에 있으니 더 쉽게 그 내용을 받아들이게 된다”고 짚었다. 영상과 음성은 문자보다 주목을 끌기 쉬워 이용자에게 더 즉각적인 영향을 줄 수 있다고 설명했다.
가족이나 친구가 공유한 게시물에도 비슷한 심리가 작용한다. 전달한 사람에 대한 신뢰가 게시물 내용에 대한 신뢰로 이어지기 쉽기 때문이다.
‘좋아요’가 많은 게시물은 이미 여러 사람이 인정한 정보처럼 보일 수 있다. 평소 자신의 생각과 일치하는 주장 역시 충분한 검증 없이 받아들이기 쉽다고 나 교수는 분석했다.
결국 유명인이 등장하거나 지인이 전달한 콘텐츠라고 해서 내용까지 사실이라고 단정해서는 안 된다는 의미다. 특히 투자 수익을 보장하거나 외부 대화방 참여, 별도 앱 설치를 유도하는 게시물은 더욱 주의할 필요가 있다.
사람들은 재미있거나 충격적인 내용을 접하면 사실 여부를 확인하지도 않고 타인에게 공유하기도 한다. 나 교수는 분노나 불안을 느낄 때 게시물을 다른 사람에게 보내 공감이나 위로를 얻으려는 심리도 작용한다고 봤다.
사진이나 영상이 실제로 촬영됐더라도 게시물에 붙은 설명은 따로 확인해야 한다. 예전에 찍은 사진에 다른 날짜나 장소를 붙여 최근 사건의 증거처럼 퍼뜨리거나, 방송 장면을 잘라 출연자가 하지 않은 말을 자막으로 덧붙이는 식이다.
합성 사진 골라보고 SNS 글 검증…교실에선 어떻게 가르치나
AI로 만든 사진과 영상이 실제와 구별하기 어려울 정도로 정교해지면서 온라인에서 접한 정보를 비판적으로 판단하는 능력도 중요해지고 있다. 특히 SNS를 통해 다양한 콘텐츠를 접하는 청소년들에게는 정보의 진위를 확인하는 방법뿐 아니라 무분별한 공유가 가져올 수 있는 피해를 알려주는 교육도 필요하다. 학교 현장에서도 AI 합성물을 구별하고 온라인 정보의 신뢰성을 판단하는 수업이 이뤄지고 있다.
이런 교육의 대표적인 사례 중 하나로 한국언론진흥재단의 ‘팩트체크 교실’을 꼽을 수 있다. '팩트체크 교실'에서는 학생들에게 뉴스나 SNS에서 접한 정보의 근거를 찾아 사실관계를 확인하는 방법을 가르치고 있다. 재단에 따르면 올해 11월 기준 전국 중학교 151곳이 이 수업에 참여했다.
'팩트체크 교실'은 최근 서울 대명중학교 1학년 동아리 학생 24명을 대상으로 교육을 실시했다. 교육은 화면에 나온 두 얼굴 중 실제 인물 사진과 AI가 만든 이미지 중 하나를 골라내는 방식으로 진행됐다.
학생들은 머리카락과 눈동자, 배경 등을 비교하며 어느 쪽이 합성 이미지인지 골랐다. 그러나 몇 문제를 풀고 나자 처음에는 자신 있게 손을 들었던 학생들도 판단을 망설이기 시작했다. 실제 사진과 AI 생성 이미지를 외관만으로 구별하기가 쉽지 않다는 점을 보여주는 장면이었다.
수업은 AI 합성물을 구별하는 데서 그치지 않았다. 학생들은 합성물을 직접 만드는 행위뿐 아니라 다른 사람이 만든 합성물을 저장하거나 공유하는 행위가 어떤 피해를 일으킬 수 있는지도 배웠다. 자신의 SNS 계정이 공개 상태인지, 게시물에 방문 장소나 다른 사람의 개인정보가 드러나는지도 점검했다. 친구가 피해를 입었다는 사실을 알게 됐을 때는 합성물을 다른 사람에게 전달하지 않고 함께 도움을 요청하는 방법도 살펴봤다.
이처럼 AI 합성물에 대한 교육은 단순히 진짜와 가짜를 구별하는 것을 넘어 온라인에서 접한 정보를 어떻게 받아들이고 행동해야 하는지까지 다루고 있다. 사진이나 영상이 실제처럼 보이더라도 출처와 맥락을 확인하고, 사실 여부가 불분명한 정보는 무분별하게 공유하지 않는 태도를 기르는 것이 핵심이다.
AI 기술이 발전할수록 사진이나 영상의 진위를 눈으로 구별하는 데는 한계가 있을 수밖에 없다. 따라서 특정 인물의 얼굴이나 목소리만으로 정보를 신뢰하기보다 원본과 출처를 확인하고, 다른 자료와 비교해 사실관계를 검증하는 습관이 중요해지고 있다.
유명인 발언은 원본 대조…가족이 돈 요구하면 다시 전화
SNS에서 유명인의 이름을 내건 투자 광고를 봤다면 어떻게 해야할까. 당사자나 소속사의 공식 계정에 같은 내용이 올라왔는지부터 확인하는 게 좋다.
유석봉 전남대 인공지능융합학과 교수는 “먼저 공식 계정이나 신뢰할 수 있는 언론에서 동일한 내용을 공개했는지 확인해야 한다”며 “이후 이미지 역검색 등으로 원본을 찾아보고, 진위가 확인되기 전에는 관련 링크 접속이나 거래 등은 피해야 한다”고 조언했다.
염흥열 순천향대 정보보호학과 교수는 AI 탐지 도구를 보조 수단으로 활용할 수 있다고 설명했다. 영상 통화에서 상대에게 고개를 돌려보라고 해 본인인지 확인하는 방법도 있지만, 합성 기술이 발전하면 이런 움직임까지 흉내 낼 수 있다는 것이다.
가족 목소리로 급하게 송금을 요구하는 전화가 오면 일단 끊고 평소 저장해둔 번호로 다시 전화해 상황을 확인하는 게 좋다. 기관에서 연락이 왔다면 상대가 알려준 번호나 링크 대신 공식 홈페이지에서 대표번호를 찾아 직접 문의하는 식이다.
염 교수는 “별도 확인 채널을 통해서 올바른 전화번호도 확인하고, 올바른 사이트도 확인할 필요가 있다”고 강조했다. 가족끼리 미리 정한 암호를 추가로 확인하는 방법도 제안했다.
링크가 담긴 의심 문자를 받았다면 링크를 누르기 전에 카카오톡에서 KISA의 ‘보호나라’ 채널을 직접 찾아 문자 내용을 입력할 수 있다. 분석 결과는 ‘정상’, ‘주의’, ‘악성’으로 표시된다. SNS에서 사칭 광고나 무단 합성물로 의심되는 게시물을 발견했다면 다른 사람에게 전달하지 않고 플랫폼에 신고하는 게 좋다.
AI로 콘텐츠를 만들 때는 타인의 얼굴이나 목소리를 사용하기 전에 당사자의 동의를 구해야 한다. 친구 사진을 장난으로 합성하거나 단체 대화방에 올라온 합성물을 다시 보내는 행동도 피해를 키울 수 있다.
나 교수는 댓글을 달거나 게시물을 공유하기 직전에 ‘사실일까요?’라는 질문을 띄우는 방법을 제안했다. 그는 “잠시 멈추면 ‘자동적인 반응’에서 ‘생각 후의 대응’으로 전환하는 데 도움이 된다”며 여러 출처를 찾아 사실을 확인하는 습관을 들일 필요가 있다고 강조했다.
관련기사
- 웃고 넘긴 AI 딥페이크, 누군가에겐 범죄…플랫폼 책임 어디까지2026.11.18
- 딥페이크 탐지 AI도 '구조적 한계'...보안 판 새로 짜야2026.11.17
- 어느 날 내가 딥페이크 피해자가 됐다2026.11.16
- 수능 앞두고 SNS엔 'AI 컨닝법' 돌아…플랫폼 대응은2026.11.18
※ 본 보도는 한국언론진흥재단의 지원을 받아 제작되었습니다.








