日 히타치, 생성형 AI가 쓴 '꼼수 보고서' 잡아낸다

AI가 생성한 글자 감지 돕는 '워터마킹' 도구 개발

일본 대기업 히타치가 인공지능(AI) 워터마킹 도구를 개발했다. 

지난 4일(현지시간) 마이니치신문 등 외신에 따르면, 이 워터마킹 도구는 생성형 AI가 만든 문장과 인간이 쓴 문장을 구별해 허위 정보 확산 등의 악용을 방지하는 데 도움이 된다.

생성형 AI로 인해 학교 등에서는 보고서를 학생이 직접 썼는지 판단할 수 없는 문제가 발생할 수도 있다. 히타치의 도구를 사용하면 학생들이 글을 쓸 때 AI를 얼마나 사용했는지도 단어, 문장 단위로 감지할 수 있다. 

(사진=픽사베이)

히타치는 각 단어 뒤에 올 것으로 예상되는 단어 일부를 디지털 워터마크 단어 목록에 추가했다. AI가 문장을 쓸 때 이런 목록에서 특정 단어를 자동으로 선택하도록 설계된 목록이다. 히타치는 이 같은 목록을 계층화 해 감지의 안전성과 정확성을 높였다.

AI가 생성한 문장에는 워터마크가 포함돼 있으며 목록에 있는 단어와 일치하는 단어가 포함될 확률이 더 높으므로 이를 구별하는 것이 가능하다.

생성형 AI가 만든 정보를 감지할 수 있는 디지털 워터마킹 기술은 이미지와 비디오와 같은 매체에서도 발전 중이다. 

이 도구를 개발한 나가츠카 고이치는 "생성형 AI의 규칙과 규정에 대한 논쟁이 계속됨에 따라, 우리는 먼저 워터마킹 기술의 정확도를 높여 실용화하고 싶다"고 말했다.