인스타그램, 악성 댓글 차단에 인공지능 적용

향후 페이스북으로 확대 여부 관심

소셜미디어 인스타그램이 악성 댓글을 차단하는 인공지능 서비스를 적용했다.

케빈 시스트롬 인스타그램 CEO는 29일(현지시간) “상당수의 이용자가 악의적인 댓글 때문에 인스타그램을 즐기고 자유롭게 표현하려는 의지를 잃는다는 말을 한다”며 “게시물과 동영상에 불쾌감을 주는 댓글을 차단하는 필터를 개발했다”고 밝혔다.

인스타그램은 악성댓글 차단 필터와 함께 스팸 차단 기능의 필터도 이날 발표했다 필터 기능은 기본 옵션으로 설정되며 사용자가 끌 수 있도록 했다.

악성댓글필터는 현재 영어에만 적용되며 스팸 차단 필터는 스페인어, 포르투갈어, 아랍어, 프랑스어, 독일어, 러시아어, 일본어, 중국어에도 적용된다. 인스타그램은 악성댓글필터 적용 언어도 확대할 계획이다.

이날 발표된 두 개의 필터는 데이터를 학습해 그 결과를 토대로 동작하는 머신러닝 기반으로 구현됐다. 기존 댓글 차단 필터가 특정 단어의 포함 여부를 점검하는 수준이던 것에 반해 인스타그램이 적용한 필터는 문맥과 관계 등에서 의미를 유추해낸다.

가령 ‘레드삭스(red sox)’가 빨간 양말을 의미하는 것인지, 미국 보스턴 야구팀을 뜻하는 것인지를 문맥을 통해 파악할 수 있다.

단순한 노래 가사도 사용 방식에 따라 악의적으로 의미가 변하기도 하는데 인스타그램 필터는 학습을 통해 이런 형태의 댓글도 잡아낼 수 있다.

한편 외신들은 인스타그램의 새 필터가 이 회사를 지난 2012년 인수, 합병한 페이스북 서비스로 확산될지도 주목하고 있다.

인스타그램은 필터를 개발하기 위해 페이스북이 개발한 ‘딥텍스트(DeepText)’를 적용했다.

페이스북은 악성 댓글 감시 역할을 직원들에게 맡기고 있다. 페이스북 경영진은 수천명의 직원들을 추가로 고용해 부적합한 게시물에 대응하겠다고 최근 밝힌 바 있다.