"AI 윤리 정책에 스타트업 목소리 담아야"

네이버 박우철 리더, 스타트업 맞춤형 AI 윤리 강조

네이버 박우철 아젠다 리서치 리더는 인공지능(AI) 윤리 정책에 대기업뿐 아니라 스타트업 목소리도 적극 반영해야 한다고 주장했다.

박우철 리더는 10일 서울대에서 온·오프라인으로 개최한 '신뢰가능한 초거대 AI: 플랫폼과 스타트업의 협력'에서 스타트업을 위한 맞춤형 AI 윤리 필요성을 강조했다. 이를 위해 기업과 학계가 손잡고 맞춤형 윤리 시스템을 구축해야 한다고 했다.

그는 최근 산업·학계 전문가들이 해결책 마련에 나섰다고 말했다.

네이버 박우철 아젠다 리서치 리더. (사진=지디넷코리아)

박우철 리더는 네이버와 스타트업이 AI 윤리를 위한 지속적인 상호작용을 한다고 말했다. 박 리더 설명에 따르면 네이버는 '클로바 스튜디오'를 활용하는 스타트업을 위한 AI 윤리 가이드를 별도로 마련한 상태다. 

AI 윤리 가이드 방향성. (사진=네이버)

스타트업이 클로바 스튜디오 활용 중 논의가 필요한 부분을 발견했을 때, 네이버와 즉시 협력해 해결할 수 있다. 네이버는 스타트업에게 클로바 스튜디오 AI 윤리 실천에 필요한 기술적·정책적인 부분을 지원한다.

예를 들어, 스타트업이 자사 서비스를 네이버 AI 모델로 만들 경우, 네이버는 AI 윤리 정책에 필요한 가이드 동영상 등을 제공해 윤리 정책을 가르친다.

네이버는 AI 필터도 스타트업에 제공한다고 했다. AI 필터는 클로바 스튜디오로 생성한 서비스 앱에서 욕설 등 부적절한 결과물이 출력되는 것을 감지할 수 있다.

발표 중인 박우철 리더(오른쪽에서 두번째) (사진=네이버)

네이버는 '네이버 AI 윤리 정책'도 별도로 설계했다. 서울대 AI 정책 이니셔티브를 비롯한 관련 전문가들이 2018년부터 이를 개발했다.

AI 윤리 준칙은 AI 개발과 이용 시 지켜야 하는 원칙이다. 네이버 직원들은 AI 제품을 개발할 때 이를 적극 활용해야 한다. 원칙은 ▲사람을 위한 AI 개발 ▲다양성 존중 ▲합리적 설명과 편리성 조화 ▲프라이버시 보호 ▲정보 보안으로 이뤄졌다.

그는 "생성 AI 기술 결과물은 사전에 완벽하게 통제될 수 없다"며 "네이버는 앞서 언급한 절차적, 기술적 효력을 지속적으로 개선하면서 스타트업과 AI 윤리 생태계를 위해 노력할 것"이라고 했다.

그는 "단순히 원칙에 그치는 것이 아니라 학계를 비롯한 외부 전문가들과 지속적으로 협력하면서 스타트업용 AI 윤리 시스템을 찾겠다"고 강조했다.