[핫문쿨답] AI한테 욕해도 될까?...1000명한테 물어보니

‘이루다’ 논란으로 본 AI 윤리...10명 중 8명 "AI도 사람처럼 대해야”

실제 연인이나 친구처럼 자연스러운 대화가 가능한 인공지능(AI) 채팅봇(챗봇) 개발이 한창인 가운데, ‘이루다’ 이슈로 AI 윤리에 대한 대중들의 관심이 뜨거워졌다.

AI가 인간의 존엄성을 해치지 않는 선에서 개발이 이뤄져야 한다는 논란은 예전부터 뜨거웠는데, 최근 들어선 AI를 대하는 사람들의 윤리의식에까지 그 고민이 확대되고 있다. 소스코드나 기계 형태인 AI라고 해서 사람들이 욕을 하거나 성적 농담을 건네는 등 함부로 대해도 괜찮냐는 질문이 우리 사회에 던져졌다.

설문조사 결과 10명 중 8명은 사람이 AI에게 욕을 하거나 성적 농담을 건네는 행위에 대해 부정적인 반응을 보였다.

또 AI 챗봇 ‘이루다’에서 이뤄진 성희롱 채팅과 성소수자 혐오 발언 등의 논란에 대해 10명 중 9명은 문제라는 인식을 나타냈다.

인공지능 자료사진(이미지=이미지투데이, 픽사베이)

지디넷코리아는 지난 12일 모바일 설문 플랫폼 오픈서베이와 함께 AI 챗봇 서비스에 관한 설문조사를 실시했다. 스캐터랩이 개발한 ‘이루다’의 일부 혐오 차별 대화 논란이 일파만파 커졌고, 결국 서비스 잠정 중단 결정이 내려진 데 따른 대중들의 생각을 묻기 위한 조사였다. 나아가 이번 논란이 던진 AI 윤리에 대한 인식도 간단히 알아보고자 했다.

이번 설문은 20~50대 남녀 3천777명 중 1천명이 응답했다. 표본오차는 ±3.10%p (95% 신뢰수준)다.

AI 챗봇 '이루다' 성희롱 채팅· 성소수자 혐오 발언 논란 '부정적'

먼저 AI 챗봇 서비스 ‘이루다’의 일부 혐오와 차별 대화 논란, 이루다에 대한 이용자들의 성희롱 논란, 개인정보 무단 이용 논란 등을 응답자들이 얼마나 알고 있는지 물었다. 그 결과 ‘대략적으로 알고 있었다’는 답이 50.6%로 가장 많았고, ‘모르고 있었다’는 응답은 39.2%였다. ‘잘 알고 있었다’는 응답은 10.2%였다.

이어 ‘이루다’ 서비스에서 논란이 됐던 성희롱 채팅과 성소수자 혐오 발언 사례를 이미지로 보여준 뒤, 이에 대한 생각을 물었다. 50.8%는 ‘심각한 문제라고 생각한다’는 보기를 선택했으며, 37.8%는 ‘어느 정도는 문제가 될 수 있다고 본다’는 보기를 골랐다. ‘상관없다고 생각한다’는 6.1%, ‘별 생각 없다’는 5.0%, ‘기타’는 0.3%로 조사됐다.

‘심각한 문제라고 생각한다’ 보기는 여성(66.0%)의 응답률이 타 집단 대비 높은 반면, ‘어느 정도는 문제가 될 수 있다고 본다’ 보기는 상대적으로 남성(47.0%) 응답자에게서 높았다.

"회사 문제" vs "현 사회 문제"

'이루다' 논란에 대한 이재웅 전 대표(왼쪽), 남궁훈 대표의 의견.

이번 논란이 커지면서 ‘이루다’ 개발사인 스캐터랩은 공식 사과와 함께 서비스 잠정 중단 결정을 내렸다. 이에 IT업계 인플루언서인 이재웅 전 쏘카 대표와 남궁훈 카카오게임즈는 서로 상반된 견해를 밝혀 주목을 받았다. 이재웅 전 대표는 회사 경영진과 구성원들의 문제를 지적했고, 남궁훈 대표는 현 사회의 문제를 더 크게 봤다.

이에 대한 응답자들은 ‘두 가지 의견이 모두 비등하게 타당하다’(33.5%)는 보기를 가장 많이 선택했다. 이어 ‘이재웅 전 대표 발언이 더 타당하다’ 보기가 30.4%, ‘남궁훈 대표 발언이 더 타당하다’ 보기가 21.9%를 차지했다. ‘잘 모르겠다’는 13.8%, ‘기타’ 의견은 0.4%였다.

'이재웅 전 대표 발언이 더 타당하다' 보기는 여성(37.6%)의 응답률이 타 집단 대비 높은 반면, 남궁훈 대표 발언이 더 타당하다 보기는 상대적으로 남성(30.2%) 응답자에게서 높았다. 또 이재웅 전 대표 발언이 더 타당하다 보기는 40대(34.4%), 50대(38.8%)의 응답률이 타 집단 대비 높은 반면, 남궁훈 대표 발언이 더 타당하다 보기는 상대적으로 20대(27.6%) 응답자에게서 높았다.

'이루다' 서비스 잠정 중단에 "잘한 결정이다"

스캐터랩의 ‘이루다’ 서비스 잠정 중단 결정의 적정성에 대해서도 물어봤다. 그 결과 ‘문제가 있는 만큼 서비스 잠정 중단은 잘한 결정’이라는 응답이 65.4%로 1위를 차지했다. 이어 ‘서비스 잠정 중단까지는 과한 결정’이라는 응답이 12.1%, ‘문제가 큰 만큼 서비스 잠정 중단이 아닌 완전 중단해야 한다’는 응답이 10.9%로 나타났다. ‘잘 모르겠다’ 응답은 8.9%, ‘중단 없이 정상 서비스 돼야 한다’는 2.4%였다.

AI만 잘하면 된다?...아니 사람도 AI한테 잘해야

이번 논란으로 AI에 대한 윤리 인식 문제도 화두가 됐다. 이에 AI에게 이용자가 욕을 하거나 성적 농담을 건네는 등의 행위에 대해 응답자들은 어떻게 답했을까. ‘AI도 사람을 본떠 만드는 것이기 때문에 사용자가 최소한의 도덕적, 윤리적 기준을 갖고 대해야 한다’는 응답이 81.0%로 압도적이었다. ‘진짜 사람이 아닌 AI이기 때문에 상관없다’는 응답은 8.3%에 불과했다. ‘잘 모르겠다’는 답은 8.4%, ‘기타’는 2.3%로 조사됐다.

‘AI에게 사용자가 최소한의 도덕적, 윤리적인 기준을 갖고 대해야 한다’ 보기는 여성(89.6%)의 응답률이 타 집단 대비 높은 반면, ‘AI이기 때문에 상관없다’ 보기는 상대적으로 남(14.0%) 응답자에게서 높았다.

기타 의견으로는 “이용자의 수준이 떨어진다는 것을 보여줘 안타깝지만, 그런 행위 자체를 강제로 막을 수는 없다고 생각한다”, “기계 대하는 걸 사람한테도 할 수 있기 때문에 윤리적이고 도덕적이어야 한다”, “혐오표현에 대한 부정적인 반응을 AI가 학습하도록 해야 한다” 등이 나왔다.

AI 개인화 서비스에 '만족'...AI시대, 디스토피아보다 '유토피아' 전망

발전된 AI 기술이 다양한 서비스에 접목되면서 데이터 학습을 통한 개인화 서비스가 본격화 되고 있다. 나만의 비서처럼 AI가 개인 취향에 맞는 음악, 영화, 뉴스 등을 추천해주는 것이 대표적이다. 이에 대한 이용자들의 만족도를 10점 평가척도 방식으로 조사해 봤다. 그 결과 ‘보통’(5점)을 꼽은 이용자가 27.1%로 가장 많았는데, 만족(6~10점)에 가까운 보기(54.1%)가 불만족(1~4점)에 가까운 보기(18.8%)보다 훨씬 더 많은 선택을 받았다.

AI가 사람들의 노동을 줄여줘 보다 윤택한 삶이 가능해질 것이란 유토피아적인 전망과, AI가 사람들의 일자리를 빼앗고 인간의 존엄성을 해할 수 있다는 디스토피아적인 전망이 엇갈린다. 일상이 될 AI 시대에 대해 대중들은 어떻게 생각할까.

그 결과 51.1% 응답자들은 ‘부정적인 면보다 긍정적인 부분이 많은 것 같다’는 보기를 선택했다. ‘긍정적인 면보다 부정적인 부분이 많을 것 같다’는 30.2%의 응답률을 보였다. 이어 ‘잘 모르겠다’(10.7%), ‘매우 긍정적으로 생각한다’(5.7%), ‘매우 부정적으로 생각한다’(1.6%), ‘기타’(0.7%) 순이었다.

긍정적인 부분이 많을 거라 생각한다 보기는 남성(54.8%)의 응답률이 타 집단 대비 높은 반면, 부정적인 부분이 많을 거라 생각한다 보기는 상대적으로 여성(36.8%) 응답자에게서 높았다.

기타 의견으로는 “양날의 검이다. 하지만 피할 수 없는 흐름이다”, “부정적인 부분을 잘 보완해서 발전해 나가야 한다”, “정말 반반이다” 등이 나왔다.

AI 발전 좋지만, 윤리 기준 명확해야

글로벌 IT 기업들이 AI 기술개발을 앞 다퉈 진행 중인 가운데, 사람이 중심이 되는 AI 윤리 기준을 정립하기 위한 국가 차원의 노력들도 이어지고 있다. 현재 진행되고 있는 AI 기술 발전 ‘속도’에 대한 대중들의 인식은 어떨까?

59.0% 응답자들은 ‘AI 발전도 좋지만 부작용이 우려되는 만큼 AI 윤리 기준을 명확히 세우기 위해 발전 속도를 어느 정도 조절할 필요가 있다’는 보기를 골랐다. 21.6%는 ‘AI가 인간을 대체할 수 있는 여지가 큰 만큼 기술 발전보다 전세계적인 논의가 필요하다’는 보기를 선택했다. ‘AI 기술 경쟁이 이미 뜨거워진 만큼 머뭇거릴 여유가 없다. 일단 기술 개발에 매진해야 한다’ 응답률은 19.1%였다.

‘발전 속도를 어느 정도는 조절할 필요가 있다’ 보기는 여성(65.2%)의 응답률이 타 집단 대비 높은 반면, ‘일단 기술 개발에 매진해야 한다’ 보기는 상대적으로 남성(28.0%) 응답자에게서 높았다.

이번 설문조사에 대한 보다 구체적인 결과는 ☞오픈서베이 결과 페이지를 통해 확인 가능하다.