중국서 AI로 불량품 사진 만들어 환불...쇼핑몰도 AI로 맞대응

타오바오, 가짜 사진 탐지 AI 도입…적발률 50%

중국 온라인 쇼핑몰에서 생성형 AI를 이용해 멀쩡한 상품을 불량품처럼 조작한 뒤 환불을 요구하는 사례가 잇따르고 있다.

이와 함께 소비자가 AI로 가짜 증거 사진을 만들자 전자상거래 플랫폼도 AI로 조작 여부를 판별하는 기술을 도입하면서 환불 심사 과정에서 AI 간 공방이 벌어지고 있다는 소식이다.

지디넷재팬 보도에 따르면, 중국 상하이의 한 장난감 판매점에서는 구매자가 제출한 봉제인형의 오염 사진에서 부자연스러운 윤곽을 비롯해 빛과 그림자의 모순이 발견됐으나 50위안의 환불이 승인됐다.

후베이성의 한 신선식품 판매점에서도 비슷한 사례가 발생했다. 32위안에 구입한 바나나가 썩었다며 제출된 사진이 판매점이 발송 전에 촬영한 사진과 배경, 배치가 완전히 같았고 역시 반품 없이 환불 처리됐다.

중국서 AI로 조작된 이미지를 통한 환불과 쇼핑몰의 맞대응이 벌어지고 있다. 사진_클립아트코리아

중국 전자상거래 시장에서는 저가 상품이나 신선식품 등을 반품하지 않고 구매대금만 돌려받는 제도가 운영되고 있다. 반송 비용과 시간을 줄일 수 있어 판매자와 소비자 모두에게 유리하지만, 생성형 AI로 상품 사진에 찢어진 흔적이나 얼룩, 곰팡이 등을 추가해 환불을 요구하는 수법에 악용되고 있다.

판매자가 조작을 의심하더라도 이를 입증하기는 쉽지 않다. 사진에 부자연스러운 부분이 있다는 이유만으로 환불을 거절하기 어렵고, 전문 이미지 감정 비용이 상품 가격을 웃돌 수 있기 때문이다.

이에 따라 알리바바의 타오바오와 티몰은 판매자 지원 시스템에 AI 가짜 이미지 식별 모델을 도입하고 있다. 판매자는 공식 매장 운영 도구인 '첸뉴' 등의 채팅 화면에서 구매자가 보낸 사진을 마우스 오른쪽 버튼으로 클릭해 허위 환불 신청 이미지로 신고할 수 있다.

타오바오는 중국 신경보에 AI 자동 탐지 모델의 정확률이 95%, 재현율이 50%라고 설명했다. AI가 가짜라고 판정한 이미지 가운데 실제 가짜인 비율은 95%지만, 전체 가짜 이미지 중 찾아내는 비율은 50%라는 뜻이다.

경쟁사인 징둥과 바이트댄스의 더우인도 생성형 AI로 제작한 가짜 이미지를 판별하는 서비스의 시험 운영에 착수한 것으로 전해졌다.

중국 정부도 ‘온라인 거래 플랫폼 규칙 감독관리방법’에 플랫폼이 판매자에게 반품 없는 환불 책임을 강요해 권익을 침해하는 행위를 금지하는 내용을 포함하는 제도 개선에 나섰다.