배민 "AI 기술로 허위리뷰 확 줄였다"

배달의민족(배민) 운영사 우아한형제들이 지난해 허위리뷰 11만4천54건을 차단했다고 11일 밝혔다. 허위리뷰는 이용자가 음식 배달, 취식 없이 거짓으로 작성한 리뷰다.

배민은 허위리뷰 근절을 위해 실시간 모니터링 시스템부터 자전거래 탐지, 인공지능(AI)을 활용한 고도화 모델 등 기술적 수단을 도입해왔다. 그 결과 허위 의심 리뷰 제보건수는 작년 연 최고점 대비 60% 이상 줄어들었다.

재작년 배민은 업주, 이용자 제보와 전담인력 검수 등에 의존해 허위리뷰를 차단했지만, 곧 실시간 모니터링 시스템을 동원해 의심 리뷰 적발 정확도를 높였다. 시스템을 통해 배민 앱에 등록되는 리뷰를 실시간으로 탐지, 24시간 이내 분석, 조처할 수 있게 했다.

허위리뷰로 의심될 경우 자동으로 노출을 일시 제한한다. 실시간 모니터링 시스템이 도입된 후 허위리뷰에 대한 사전 대응이 가능해지면서, 업주와 이용자 제보가 큰 폭으로 감소하기도 했다.

또 자전거래(업주가 스스로 주문하고 리뷰를 남기는 행위) 탐지를 시작해 자전거래 허위리뷰는 지난해 말 기준 연 최고점 대비 70% 줄었다.

실시간 모니터링 활성화 외 허위리뷰 근절을 위한 시스템도 가동했다. 지난해 6월부터 리뷰조작이 의심되는 업주의 데이터를 분석해 차단하는 조치를 취하고, 12월엔 AI를 활용한 모델을 탑재했다.

허위리뷰 주문 수법이 다양해지고 복잡해지면서 AI가 그간 허위리뷰 사례를 학습, 허위 의심 리뷰를 빠르게 적발하게끔 했다.

리뷰 조작이 불법임을 알리고자, 악성 리뷰조작 업체에 대한 고소, 경고 작업도 진행했다. 현재까지 6건에 대한 수사가 진행 중이며, 34개 업체를 대상으로 경고, 내용 증명을 발송했다. 지난해 5월엔 법적 대응 끝에 허위리뷰 조작 업체가 실형을 선고받기도 했다.

관련기사

최근엔 리뷰 조작 업체에 대한 모니터링을 강화했다. 온라인 메신저를 통해 허위리뷰 작성 아르바이트생을 모집하고, 허위리뷰를 작성하는 행위까지 조사해 경고하고 있다. 배민은 경고를 했음에도, 지속해서 유사한 행위를 하는 리뷰조작업체 대상으로 고소를 해나갈 예정이다.

이원재 우아한형제들 서비스위험관리실장은 “이용자가 믿고 볼 수 있는 리뷰 환경을 만들고자 실시간 모니터링 시스템부터 법적 대응까지 허위리뷰에 대해 강경 대응을 취하고 있다”면서 “작년 말 탑재한 AI 고도화 모델을 통해 앞으로 빠르게 효과적으로 허위리뷰에 대응해 나갈 것”이라고 했다.