인신윤위, AI 기사심의 지원 시스템 시범 운영…2시간마다 문제 기사 자동 탐지

자살·범죄·차별 표현 등 키워드 기반 후보 기사 자동 선별…8월 정식 가동

인터넷신문윤리위원회(인신윤위)는 자율심의에 참여하는 850개 인터넷신문을 대상으로 'AI 활용 특정 키워드 기반 기사 모니터링 시스템' 개발을 완료하고 지난 20일부터 시범 운영에 들어갔다고 29일 밝혔다.

이번 시스템은 참여 매체에서 생산되는 기사를 2시간마다 자동 수집한 뒤 기사 제목과 본문에서 자살, 범죄, 차별적 표현, 비속어, 불명확한 출처 표기 등 특정 키워드를 탐지해 기사심의 전문위원이 우선 검토할 후보 기사를 선별하는 방식이다.

적용 대상은 기사심의규정 가운데 ▲비속어의 지양 ▲차별적 표현 금지 ▲출처 명시 ▲범죄 관련 보도 ▲자살 보도 등 5개 분야다. 단일 키워드뿐 아니라 문장 내 복수 표현과 단어의 활용형까지 분석해 검토 대상을 추려낸다.

(사진=인신위)

탐지된 기사는 'AI모니터링' 메뉴에 자동 등록된다. 기사 제목과 원문 주소, 탐지된 키워드, 해당 문장, 탐지 위치, 관련 심의규정 등이 함께 제공돼 전문위원이 즉시 검토할 수 있도록 했다.

다만 AI가 규정 위반 여부를 판단하는 것은 아니다.

전문위원이 기사의 전체 내용과 맥락을 확인한 뒤 심의 대상이 아니라고 판단하면 기각하고, 추가 검토가 필요한 기사는 기존 기사심의 절차에 따라 안건으로 상정한다. 이후 전문위원 회의와 기사심의위원회 심의를 거쳐 최종 위반 여부가 결정된다.

심의 절차는 ▲기사 자동 수집 ▲키워드 기반 후보 기사 선별 ▲전문위원 검토 ▲기각 또는 안건 작성 ▲기존 모니터링 절차 이관 ▲전문위원 회의 ▲기사심의위원회 심의 및 의결 순으로 진행된다.

인신윤위는 오는 8월 시스템을 정식 가동하고, 향후 유사어와 우회 표현 탐지, 기사 문맥 분석 등 기능을 단계적으로 고도화할 계획이다.

박영례 인신윤위 기사심의실장은 "누구나 AI 기술을 도입할 수 있지만 아무나 책임 있는 자율심의를 수행할 수 있는 것은 아니다"라며 "문제 가능성이 있는 기사를 찾아내는 것은 심의의 시작일 뿐, 명확한 규정과 전문인력, 독립적인 심의 절차를 통해 판단하고 그 결과에 책임지는 체계가 함께 작동해야 한다"고 말했다.

이어 "이번 시스템은 AI가 사람의 심의를 대신하는 것이 아니라 인신윤위가 축적해 온 심의 기준과 전문위원의 판단을 기술로 지원하는 데 목적이 있다"며 "반복적인 검색 업무를 줄이고 전문위원이 사회적 위해 가능성이 높은 보도와 복합적인 언론윤리 판단에 집중할 수 있도록 시스템을 지속적으로 고도화하겠다"고 밝혔다.