국제인공지능&윤리협회(IAAE, International Association for Artificial Intelligence and Ethics, 이사장 전창배)는 지난 1일 서울시청 시민청 워크숍룸에서 THE AI(대표이사 황민수)와 함께 제 '1회 휴먼xAI포럼(Human x AI Forum)'을 공동 개최하고 국내 최초로 ‘디지털 휴먼 윤리 가이드라인(The Ethics Guideline for Digital Human)'을 발표했다고 밝혔다.
이번 '휴먼xAI 포럼'은 최근 AI기술과 윤리 이슈를 짚어보고 인간과 AI의 바람직한 공존 방안을 모색하기 위해 마련됐다. 포럼은 ‘딥페이크, 디지털 휴먼, 그리고 윤리’를 주제로 디지털 휴먼과 가상 인간의 기술과 산업, 윤리 문제를 다뤘다.
행사에서는 전창배 이사장 개회사와 이청호 회장(상명대학교 교수) 환영사에 이어 ▲방송,미디어 산업에서의 AI, 디지털 휴먼 기술의 활용 현황과 전망 (만개의레시피 이희대 전략본부장 겸 경희대대학원 겸임교수) ▲디지털 휴먼, 나는 어떻게 기억될 것인가? (CJ올리브네트웍스 신정호 CTO) ▲언어 지능 윤리 문제에 대한 고찰 (포티투마루 김동환 대표) ▲디지털 휴먼 윤리 가이드라인 (김태성 MBC플러스 제작센터장 겸 IAAE 부회장) ▲청소년 딥페이크 문제와 AI 윤리 교육의 필요충분조건 (서울교육대학교 김봉제 교수) 등 관련 전문가 5명의 발표가 이뤄졌다.
전창배 IAAE 이사장은 "최근 세계적으로 디지털 휴먼, 가상 인간 기술이 급속도로 발전하면서 방송,미디어,엔터테인먼트 분야 뿐만 아니라 정치, 교육, 금융, 소비재 등의 분야에까지 그 활용 영역이 급격히 확대되고 있다. 하지만 기술이 고도화, 정교화하되면서, 사용자, 소비자를 기망하는 문제부터, 보이스 피싱과 같은 범죄에의 악용, 고인(故人)을 동의없이 살려내어 콘텐츠화 하는 사례, 가상인간 정치인을 이용해 정치활동을 하는 데 따른 윤리적, 법적 우려의 목소리들이 높아지고 있다"며 포럼 개최 및 지침 마련 배경을 설명했다.
한편 이날 발표된 총 10개 조항으로 구성된 '디지털 휴먼 윤리 가이드라인'은 제 4조, 5조에서 '실제 존재하는 인물이든, 고인이든 디지털 휴먼으로 구현해 사용할 경우에는 사전에 반드시 해당 인물의 동의를 받아야 함'이라고 명시했고, 7조에서는 '정치인을 디지털 휴먼으로 구현해 선거 운동 등 정치적 목적으로 사용할 경우 보다 강화된 표지와 정보를 추가로 표시해 유권자에게 제공해야 함'으로 규정했다. 또 8조에서는 '많은 팔로워(follower)와 팬을 보유한 디지털 휴먼은 사회와 사람들에게 큰 영향력을 행사할 수 있으므로 활동과 언행에 신중하고 책임감을 가져야 한다'고 명시했다. 아래는 IAAE가 발표한 '디지털 휴먼 윤리 가이드라인' 전문
*디지털 휴먼 윤리 가이드라인 전문(The Ethics Guideline for Digital Human)
제 1조. 디지털 휴먼(Digital Human)은 인공지능, VR/AR, 메타버스 기술 등을 이용하여 구현해 낸 디지털 형태로 존재하고 활용되는 인간을 말한다. 예를 들어, 가상인간(Virtual Human), 메타휴먼(Meta Human), 아바타(Avatar), AI 챗봇(AI Chatbot) 등을 포함하는데 구현 방식으로는 영상, 음성, 이미지, 텍스트 등이 모두 포함된다.
제 2조. 디지털 휴먼은 인간과 매우 흡사한 외모를 가지고, 인간의 말과 행동을 하며 사용자, 소비자와의 소통을 통해 인간에게 큰 영향력을 미칠 수 있기 때문에 그 개발과 활용에 유의해야 한다.
제 3조. 디지털 휴먼은 편향적이지 않으며, 신뢰할 수 있고, 합법적이어야 하며, 인간의 존엄성과 인류 보편의 가치를 존중해야 한다. 이를 위해 학습하고 사용하는 데이터의 신뢰성을 확보해야 하며, 선한 방향으로 지속적인 자기학습 능력을 발전시켜야 한다. 그리고 사용자나 소비자의 요구가 있을 경우, 자신이 학습하고 사용하는 데이터의 출처를 밝혀야 한다.
제 4조. 실제 존재하는 인물을 디지털 휴먼으로 구현하여 사용할 경우에는, 사전에 반드시 해당 인물의 동의를 받아야 한다. 구현된 디지털 휴먼에 대해서는, 원칙적으로 초상권, 저작권, 사용권 등 일체의 권리는 실제 인물에게 있으므로 해당 콘텐츠를 실제 인물의 동의 없이 온라인상으로 무단으로 퍼 나르거나, 유포하거나 상업적, 정치적, 범죄적 목적으로 이용해서는 안 된다.
제 5조. 고인을 디지털 휴먼으로 구현할 경우에는 생전에 고인의 동의를 받음을 원칙으로 해야 한다. 또한 동의를 받고 구현할 경우에도, 생전 고인의 명예를 훼손하지 않도록 주의해야 한다.
제 6조. 디지털 휴먼을 개발하여 사용할 때에는, 사용자, 소비자를 기망하지 않아야 한다. 따라서 디지털 휴먼이 표현되는 영상, 음성, 이미지, 텍스트 등의 콘텐츠의 처음부터 끝까지 해당 인간이 디지털 휴먼이라는 점을 표지나 문자, 음성 등으로 표시하고, 사용자와 소비자에게 디지털 휴먼임을 알 수 있도록 하는 명확한 정보를 제공해야 한다.
제 7조. 정치인이나 선거의 후보자를 디지털 휴먼으로 구현하여, 선거 운동, 홍보 등 정치적 목적으로 사용할 경우에는, 사회와 유권자에게 미치는 영향이 더욱 클 수 있으므로, <제 6조>보다 강화된 표지와 정보를 추가로 표시하여 유권자에게 제공해야 한다. 예를 들어, 개발한 회사, 학습 및 사용 데이터의 출처, 해당 콘텐츠의 편집자, 운영자, 총괄 책임자, 해당 정치인의 관여 정도 등을 콘텐츠의 맨 처음이나 마지막에 추가로 표시해야 한다.
제 8조. 기성 미디어를 통해 신뢰도와 인지도를 확보하고 있는 방송인, 연예인, 유명인 등을 모델로 하거나 소셜미디어와 메타버스 등 디지털 공간에서 많은 팔로워(follower)나 구독자를 보유한 디지털 휴먼은 실제 사회에서도 사람들에게 큰 영향력을 가지고 이를 행사할 수 있다. 따라서 큰 영향력을 가진 디지털 휴먼은 활동과 언행에 보다 신중하고 책임감을 가져야 한다.
제 9조. 디지털 휴먼 기술의 이용은 어디까지나 인간의 삶과 실생활을 보다 풍요롭고 편리하게 하는 것을 목적으로 해야 하며, 이를 악용하여 타인에게 피해를 끼치거나 범죄의 목적으로 사용해서는 안 된다.
제 10조. 향후 스스로 판단하고, 활동하고, 소통하는 자율성을 가진 디지털 휴먼이 등장할 경우, 통제된 디지털 인간보다 사회와 인간에 미치는 영향이 막대할 수 있으므로, 지금부터 모든 관련 주체들이 자율성을 가진 디지털 휴먼에 대한 논의와 연구를 진행해야 한다.
2022년 7월 1일, IAAE 국제인공지능&윤리협회
