"생성형 AI 불편사항 제보하세요”

위험사례 공유 이용자 참여 플랫폼 개설

챗GPT 등 생성형 AI 서비스를 이용하다 경험하는 폭력, 성범죄 등 다양한 위험 사례를 제보할 수 있는 전문 창구가 마련된다.

방송미디어통신위원회와 한국정보통신진흥협회는 31일부터 ‘생성형 인공지능 이용자 참여 플랫폼’을 운영한다고 밝혔다.

국민 누구나 생성형 인공지능 서비스 이용 과정에서 겪는 위험성과 불편 사항을 제보하고, 관련 정보를 사업자 이용자와 공유할 수 있는 전문 플랫폼이다. 최근 챗GPT, 클로드(Claude), 제타(Zeta) 등 생성형 인공지능 서비스의 급속한 확산과 함께 서비스 이용 중 폭력이나 성범죄‧성희롱 등 다양한 위험이 발생함에 따라 이러한 역기능을 신속히 인지하고 이를 해당 사업자에 통보함으로써 사업자의 자율적 개선을 유도하기 위해서 마련됐다.

이 플랫폼은 ▲이용자가 경험한 위험성, 역기능 등 제보 ▲위험성 관련 통계 등 분석자료 주기적 제공 ▲유형별 생성형 인공지능 서비스 이용 방법 및 특성 등 안내 기능으로 구성됐다.

이용자는 생성형 인공지능 서비스 이용 중 발견한 폭력이나 성범죄‧성희롱 등 다양한 위험 사례를 이용자 참여 플랫폼을 통해 제보하고, 이는 해당 사업자에게 전달돼 사업자의 자율적인 서비스 개선을 유도한다.

제보자는 해당 내용의 처리 상황 및 결과를 직접 확인할 수 있고, 제보 내용은 인공지능 위험성 관련 통계와 경향성 분석 자료 등으로 활용되며 이용자 경각심을 제고하기 위한 이용자 주의사항도 주기적으로 제공한다.

이와 함께 텍스트, 이미지, 음성 등 주요 생성형 인공지능 서비스의 유형별 이용 방법과 특성 및 역기능 방지를 위한 서비스 이용 유의사항도 안내된다.

방미통위는 앞서 지난 2월부터 전문가 연구반을 운영해 플랫폼 구성 및 제보절차, 인공지능 위험성 분류 등을 논의했으며, 지난 7월과 9월 두 차례에 걸친 사업자 간담회를 통해 관련 제보가 사업자 서비스 개선으로 이어질 수 있도록 각계 의견을 수렴했다.

향후 방미통위는 플랫폼을 통해 수집된 제보를 통해 인공지능 서비스 위험성을 분석, 제도 개선 등 정책에 반영할 계획이며, 이번 플랫폼을 통해 새로운 역기능 등을 신속히 인지하고 사전 대응할 수 있을 것으로 기대하고 있다.