구글, 악플 잡는 인공지능 기술 내놨다

"온라인 모욕·괴롭힘 탐지하는 머신러닝 툴"

구글이 악플 잡는 인공지능 기술을 공개했다.

미국 지디넷 자매지 테크리퍼블릭은 23일(현지시간) 구글이 머신러닝 기법으로 온라인 댓글을 보고 얼마나 토론에 해로운지 측정할 수 있는 '퍼스펙티브API'를 선보였다고 보도했다.

퍼스펙티브API는 구글의 직소(Jigsaw)라는 사업부에서 태어났다. 직소는 지난해 9월 악플러 대항 기술을 만드는 목적으로 만들어졌다. 공격적인 언어 표현의 맥락과 뉘앙스를 컴퓨터가 이해하는 방법을 연구하는 게 퍼스펙티브의 목적이다.

[사진=Pixabay]

자레드 코헨 직소 사장은 퍼스펙티브의 동작 원리를 간단히 설명했다. 앞서 사람들이 검토한 결과 해롭다고 판정된 댓글에 견줘 어떤 댓글을 검토하고 평가하는 게 핵심이다.

그간 머신러닝 모델 훈련을 위해 퍼스펙티브는 사람이 검토한 댓글 수십만건을 학습했다. 댓글을 더 많이 검토할수록 판단 수준이 향상될 것이라고 코헨 사장은 밝혔다.

퍼스펙티브가 댓글을 평가한 정보는 웹사이트 운영자에게 전달된다. 그 내용을 온라인에 노출시켜도 괜찮을지 판단할 수 있게 해준다. 해당 정보를 활용해 댓글에 표식을 넣거나 댓글을 삭제할 수 있다. 작성자에게 그 댓글의 유해성을 측정해 보여 주거나 독자들이 해로움을 기준으로 댓글을 정렬해 볼 수 있게도 해준다.

퍼스펙티브 공식사이트에는 "개발자와 퍼블리셔가 이 평가 기능을 댓글 작성자 또는 게시판 관리자에게 실시간 피드백 업무에 쓰도록 제공할 수 있다"며 "또는 독자들이 더 적절한 정보를 쉽게 찾도록 해 줄 수도 있다"고 써 있다.

미국 뉴욕타임스, 영국 가디언, 이코노미스트 등 일간지 및 경제지와 위키피디아 백과사전이 퍼스펙티브 기술을 도입해 댓글을 관리하고 있다. 뉴욕타임스의 전담팀은 매일 댓글 1만1천건을 검수한다. 뉴욕타임스는 퍼스펙티브 기술이 그 업무 속도를 높이면서 더 많은 댓글이 게재되도록 허용해 주길 기대한다고 코헨 사장은 언급했다.

퍼스펙티브는 구글이 만든 머신러닝 라이브러리 텐서플로(TensorFlow)와 클라우드 머신러닝 플랫폼 기술을 활용해 개발자들에게 내놓은 최신 머신러닝 호스팅 기술이다. 이는 소기업, 스타트업, 미디어조직이 온라인 환경에서 전담인력 등 큰 자원부담 없이 댓글 관리를 하게 해줄 수 있다. 동시에 이 기술은 검열의 한 형태로 활용될 수 있다는 우려도 제기된다.

퍼스펙티브 웹사이트에 따르면 이 개발 회사는 올하반기 더 많은 머신러닝 모델을 내놓을 계획이다. 개발팀은 더 많은 언어를 지원하며 댓글의 내용이 원글의 주제와 얼마나 동떨어져 있는지도 판정할 수 있게 해 주는 쪽으로 기술을 다듬어 낼 예정이다.