네이버 뉴스 댓글 '트롤행동' 분석 기술 개발

한-독 연구팀, AI 경량화 모델로 챗GPT 대비 저비용 실현

온라인 뉴스 댓글에서 '트롤행동'을 탐지하고, 판단 근거를 제시하는 '설명 가능한 AI기술'이 개발됐다.

트롤(troll)행동은 반시대적 또는 선동적인 행동이나 불쾌한 내용을 인터넷에 올리는 행위를 의미한다.

기술 개발은 이원재 KAIST 문화기술대학원 교수와 차미영 전산학부 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 교수 공동연구팀이 토르스텐 홀츠 독일 막스플랑크 연구소 교수와 진행했다.

왼쪽부터 KAIST 김재홍 박사과정, 김현승 석사과정, 이원재·차미영·오혜연 교수, 토르스텐 홀츠 독일 막스플랑크 교수.(사진=KAIST)

이원재 교수는 전화통화에서 "챗GPT 4 파라미터가 1조 7,500억 개 정도 된다. 우리가 개발한 AI 프레임워크는 이를 1억개 수준으로 낮춰 경량화한 것"이라며 "만약 1억 2천만 개의 댓글을 챗GPT에 업로드 시켜 물어보면, 시간과 비용이 엄청나게 들 것"이라고 설명했다.

이 프레임워크는 국내 뉴스 댓글에서 외국 연계 의심 단서, 도덕감정 표현, 공격 대상을 단계적으로 분석하고 판단 근거가 된 문구까지 제시 가능하다.

연구팀은 이를 이용해 지난 20년간(2006~2025) 네이버 뉴스 이용자 400만명이 작성한 댓글 1억 1,200만 건을 분석, 조직적 조작과 일치하는 행동을 보이는 2만 3,998개의 계정을 확인했다.

논문 공동 제1저자인 김재홍 문화기술대학원 박사과정 연구생은 "국가안보전략연구원이 공개한 한국 비난 외국 연계계정 70개를 중심으로 확장한 결과물"이라며 "기점 계정은 대다수가 한국 주요 인접국 계정"이라고 말했다.

김 연구생은 "댓글 분석을 통해 해외공작 의심 세력의 댓글을 추려냈다"며 "정권별 대통령을 가장 비난을 많이 많이 한 주요 타깃으로 분석됐다. 특히, 이 댓글을 이데올로기 홍보와 나눠 비교했을 때 사회 이슈 비난이 10배는 더 많았다"고 덧붙였다.

한국 비난 댓글의 평균 '좋아요' 비율은 0.514로, 분석한 전략 가운데 평균적으로 '좋아요'가 '싫어요'보다 많은 유일한 유형으로 나타났다.

2006~2025년 외국 연계 의심 계정의 활동 추이.(자료=KAIST)

대통령선거, 국회의원선거, 지방선거 기간에 새롭게 활동을 시작한 의심 계정은 주당 평균 34.19개로, 비선거 기간의 22.61개보다 약 51% 많았다.

이원재·오혜연 교수는 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것"이라며 "갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.

차미영 교수는 “데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학’의 사례”라고 의미를 부여했다.