AI가 쏟아내는 불법·유해정보…가드레일로 막는다

인공지능(AI) 서비스가 빠르게 확산하면서 불법 유해정보에 이용자가 노출될 가능성도 커지자 정부와 업계가 기술적 안전장치 강화 방안을 논의했다. 사업자가 스스로 유해 콘텐츠를 걸러내는 가드레일을 고도화하고 이를 제도적 이용자 보호 장치와 연계하는 방안이 주요 과제로 제시됐다.

방송미디어통신위원회는 27일 서울에서 정부와 산업계, 학계 등이 참여한 ‘인공지능서비스 이용자보호 민관협의회 2차 회의’를 열고 AI 서비스에서 생성되거나 노출될 수 있는 불법 유해정보를 기술적으로 차단하는 방안과 사업자의 자율적인 안전조치 등이 집중적으로 논의했다.

민관협의회는 AI 확산 속도를 기존 제도가 따라가지 못하면서 발생할 수 있는 이용자 보호 사각지대를 점검하고 대응책을 마련하기 위해 운영되고 있다. ICT, 법률, 미디어 전문가를 비롯해 소비자 시민단체, 통신 플랫폼 AI 기업, 정부와 공공기관 관계자들이 논의에 참여한다.

이날 회의에서는 실제 AI 서비스에 적용할 수 있는 가드레일 기술이 주요 사례로 소개됐다. 김경훈 카카오 AI세이프티 리더는 AI가 불법·유해정보를 생성하거나 이용자에게 제공하지 않도록 통제하는 가드레일 시스템의 기술 동향과 적용 현황을 발표했다.

특히 카카오가 자체 개발한 ‘카나나 세이프가드’를 소개했다. 카나나 세이프가드는 한국어 환경에 특화된 오픈소스 기반 AI 안전성 검증 모델로, AI 서비스가 생성하는 콘텐츠의 위험성을 판별하는 역할을 한다.

카카오는 이를 토대로 사업자가 자체적으로 적용하는 안전장치를 강화하는 방향과 AI 생태계 내 협력 방안도 공유했다.

이어진 종합토론에서는 기술 개발만으로 이용자 보호 문제를 해결하기 어려운 만큼 정부와 기업 간 역할을 어떻게 나눌지를 놓고 의견을 교환했다. AI 서비스 내 불법·유해정보 노출을 줄이기 위한 사업자의 자율조치를 활성화하면서 정부의 제도적 지원을 연계하는 방안 등이 논의됐다.

토론을 주재한 이성엽 민관협의회 위원은 “이번 발표와 종합토론에서 논의된 기술적 동향 등이 사업자의 이용자 보호를 위한 법제 마련 시 제도의 실효성을 제고하는 방향으로 반영될 필요가 있다”고 말했다.

신영규 방미통위 방송통신이용자정책국장은 AI 산업의 성장과 이용자 보호가 별개의 과제가 아니라는 점을 강조했다. 신 국장은 “윤리적으로 신뢰할 수 없는 인공지능 기술은 사회적 불신을 초래해 결국 인공지능 산업 전체의 성장을 가로막을 수 있으므로 기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반되어야 한다”고 밝혔다.

이어 “오늘 논의된 내용을 바탕으로 법과 기술, 제도 등 종합적 지원 방안을 마련해 국민이 안심하고 신뢰할 수 있는 인공지능 이용 환경을 만드는 데 최선을 다하겠다”고 덧붙였다.

방미통위는 AI가 본격적으로 확산하기 전인 2021년부터 신기술의 이용자 보호 문제를 다루는 ‘지능정보사회 이용자 보호 민관협의회’를 운영해왔다. 당시 인공지능뿐 아니라 메타버스와 빅데이터, 사물통신, 클라우드 컴퓨팅 등 지능정보서비스 전반의 이용자 보호 문제를 논의했다.