오픈AI, 대규모 선거 앞서 가짜뉴스 등 AI악용 막는다

선거 후보·정부 인사 위장 이미지생성 및 투표 방해 앱 사전 차단

오픈AI가 올해 예정된 전 세계 선거에 앞서 인공지능(AI) 악용을 막기 위해 새로운 정책과 도구를 선보일 예정이다.

15일(현지시간) 오픈AI는 선거기간 부적절한 AI활용을 신속하게 조사하고 해결하기 위한 방안을 마련 중이라고  공식 블로그를 통해 밝혔다.

2024년은 우리나라와 미국을 비롯해 전 세계 50개 이상의 국가에서 선거가 치뤄지는 해로 역사상 가장 큰 규모의 선거가 진행될 예정이다.

불법 콘텐츠 신고 기능이 추가된 챗GPT(이미지=오픈AI)

최근 챗GPT를 비롯해 달리 등  AI를 활용해 가짜뉴스를 제작하거나 사실과 다른 이미지, 영상 등을 제작할 수 있는 만큼 선거에 이를 악용할 것이란 우려가 나오고 있다.

특히, 정치적 목적을 가지고 해킹 등 IT테러를 일으키는 핵티비즘의 활동이 급격하게 늘어나고 있어 이에 대비하기 위한 방안이 요구되고 있다.

오픈AI는 이러한 우려에 대비해 사용자들이 어떻게 GPT를 사용하고 있는지 행동을 파악하며 정기적으로 정책을 개선하고 있다고 밝혔다.

선거 후보자와 정부 관계자 등으로 가장하는 챗봇이나 이미지 제작을 차단하고 투표 일정이나 절차, 자격 등을 허위로 표시하거나 투표가 무의하다고 주장하는 등 투표를 방해하는 앱도 제작할 수 없도록 제한한다. 또한, 사용자들이 관련 위반 사항을 직접 신고할 수도 있다.

또한 달리를 통해 생성한 이미지의 투명성을 확보하기 위해 생성 과정에 사용된 데이터와 콘텐츠의 출처 및 진위성 을 파악할 수 있는 디지털 자격 증명을 구현할 예정이다.

오픈AI는 일차적으로 내부 테스트를 마쳤으며 미디어, 플랫폼, 연구원을 포함한 외부 테스터 그룹을 대상으로 해당 기능을 시연하고 피드백을 받을 계획이라고 밝혔다.

테스트를 마친 후 오픈AI는 챗GPT를  전 세계적으로 실시간 뉴스 보고와 연계해 유권자에 대한 신뢰할 수 있는 정보를 제공할 예정이다.

오픈AI 측은 "주정부 국무장관 협회(NASS) 등과 협력해 정확한 선거 관련 정보를 제공하려 한다"며 "올해 전세계적인 선거를 앞두고 AI의 남용 가능성을 예측하고 방지하기 위해 계속해서 파트너와 협력할 계획이다"라고 말했다.