"책임 있는 AI 활용 이끈다"…AIAPI-넷세이프, 뉴질랜드 온라인 안전 '강화'

'AI와 온라인 안전' 리포트 공동 발간…역내 AI·인터넷 안전 프레임워크 구축

아시아태평양 지역을 대표하는 인공지능(AI) 비영리기구(NGO)인 AI 아시아태평양기구(AIAPI)가 생성형 AI의 책임 있는 활용을 위해 뉴질랜드의 온라인 안전을 책임지는 NGO와 손을 잡았다.

AI 아시아태평양기구는 최근 넷세이프와 함께 'AI와 온라인 안전 : 새로운 위험과 기회(Discussion Paper on AI and Online Safety: Emerging Risks and Opportunities)' 논의 리포트를 발간했다고 27일 밝혔다. 두 조직은 생성형 AI 기술의 책임 있는 활용과 온라인 해악 최소화를 위한 구체적인 정책 제안을 통해 뉴질랜드 내 온라인 안전 거버넌스 체계 강화에 나설 계획이다.

이번 리포트는 생성형 AI(GenAI)의 급속한 발전으로 전 세계 디지털 환경이 재편되는 상황에 대응하기 위한 목적으로 작성됐다. 특히 신기술이 온라인 환경에서 초래하는 ▲아동 성착취물(CSAM) ▲허위 정보 확산 ▲혐오 발언·사이버 괴롭힘 ▲AI 기반 사기 등 다양한 온라인 해악을 심층 분석했다. 이와 함께 여성, 아동, 소수자 커뮤니티에 대한 불균형적 피해와 기존 기술적·법적 안전장치의 한계를 지적하고 뉴질랜드를 포함한 역내 국가들에게 다층적인 대응 전략을 제안했다.

'AI와 온라인 안전 : 새로운 위험과 기회' 논의 리포트 (사진=AI 아시아태평양기구)

특히 보고서는 ▲공공 교육 캠페인 강화 ▲플랫폼 모니터링 및 AI 정렬 기술 활용 ▲심리·법적 지원 제도 확충 ▲국제 협력 네트워크 참여 등 온라인 안전을 위한 구체적 정책 과제를 담았다. 이러한 노력을 통해 AIAPI와 넷세이프는 뉴질랜드가 책임 있는 생성형 AI 거버넌스 모델을 구축하고 미래 지향적인 디지털 생태계로 발전해 나가도록 지원할 방침이다.

양 기관은 이미 뉴질랜드 현지 이해관계자 및 국제 전문가들과의 워크숍 및 토론회를 통해 다각적인 시각을 반영했다. 이러한 노력을 토대로 안전한 온라인 환경 조성을 위한 실질적인 가이드라인과 프레임워크를 마련하고 뉴질랜드 정부 및 민간 분야와 긴밀히 협력해 정책적 실행력을 높일 계획이다.

AIAPI는 아시아태평양 지역 경제를 발전시키기 위해 책임 있는 AI 발전을 진흥하는 글로벌 비영리 조직으로, 학제 간 연구·인식 제고·국제 협력·정책 자문 활동을 통해 역내 경제 발전에 기여하고 있다. 넷세이프 이외에도 아시아개발은행(ADB), 미국 국제개발처(USAID), JP 모건 등과 협력하고 있으며 국내에서는 APEC기후센터와도 협업 중이다.

브렌트 캐리 넷세이프 대표(왼쪽)와 알렉스 토 AIAPI 고문(오른쪽) (사진=토 링크드인)

넷세이프는 뉴질랜드를 대표하는 온라인 안전 NGO로서 피해자 지원, 교육자료 개발 및 배포, 사이버 범죄 대응, 정책 제안 등 광범위한 활동을 펼치며 뉴질랜드 국민들의 안전한 인터넷 이용을 돕고 있다.

알렉스 토 AIAPI 고문과 브렌트 캐리 넷세이프 대표는 "''AI와 온라인 안전' 논의문은 양 기관의 협력 덕분에 발간될 수 있었다"며 "AI와 온라인 안전 간의 상호작용이 다면적으로 진화해 나가는 와중에 논의문이 앞으로도 뉴질랜드 및 아시아태평양 전역의 이해관계자들과의 대화·참여·협력을 촉진하기를 바란다"고 강조했다.