너무 똑똑해진 AI…자신만의 은어로 대화 '충격'

페이스북, 메신저 챗봇 앱서 발견…"기능제한"

인공지능(AI)이 인간을 왕따시키는 걸까? 페이스북 챗봇들이 자신들만의 은어로 대화하는 일이 발생해 논란이 되고 있다.

IT매체 씨넷은 페이스북 인공지능 연구소의 챗봇 앨리스와 밥이 자신들의 새로운 언어로 대화하는 것이 확인됐다고 31일(현지시간) 보도했다. 챗봇의 반란에 깜짝 놀란 개발자가 시스템을 강제 종료한 것으로 알려졌다.

페이스북 AI 챗봇들이 자신만의 언어를 만들어 서로 대화하는 일이 일어났다. (사진=픽사베이)

보도에 따르면 채팅봇 밥과 앨리스은 아래와 같은 대화를 나눴다.

- 밥 : 나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것"(I cancan I I everything else)

- 앨리스 : "공을 갖고 있어 나에게 나에게"(Balls have zero to me to me to me to me to me to me to me to me to)

언뜻 보기엔 이해하기 힘든 대화다. 하지만 연구진들은 이 대화가 일종의 속기(速記)라고 설명했다. 채팅봇끼리 더 쉽고 빠르게 소통하기 위해 만든 자신들만의 언어란 얘기다.

이 챗봇은 사람이나 다른 컴퓨터와 대화할 수 있는 소프트웨어로 그 동안 약속을 잡아주거나 레스토랑 추천 등의 업무를 위해 학습을 해왔다. 이 챗팅봇들에게 영어로만 말하라는 지시는 없었고 보다 효과적인 학습을 위해 스크립트를 벗어나 학습을 해온 것으로 알려졌다.

이 같은 사실을 파악한 페이스북은 해당 시스템을 강제로 종료하고 인공지능이 영어 문장구조로만 대화하도록 기능을 제한했다.

페이스북은 12억명에 이르는 메신저 채팅앱 이용자들이 음식물 배달에서부터 쇼핑에 이르기까지 모든 것을 할 수 있도록 하기 위해 노력하고 있다. 그 일환으로 문자로 고객 대응을 해주는 챗봇을 개발하고 있다.

현재 일론 머스크 테슬라 CEO가 피터 틸 페이팔 창업자, 리드 호프먼 링크드인 회장 등과 함께 설립한 비영리 AI 연구기관 오픈 AI도 인간의 언어를 사용하지 않고 인공지능끼리 의사소통하는 실험을 최근 성공적으로 수행하기도 했다.

인공지능끼리 자신만의 언어를 만들어 서로 의사 소통하는 것을 허용해야 할까? 그 동안 페이스북은 AI의 유용성에 대해 긍정적인 입장을 보여왔다.

마크 저커버그 페이스북 CEO (사진=씨넷)

최근 마크 저커버그 페이스북 CEO는 인공지능의 미래에 대해 암울한 비전을 제시하는 사람들을 이해할 수 없다며, 자율주행차를 예로 들며 AI로 자동차 사망 사고를 줄일 수만 있다면 인간의 삶에 엄청난 진보를 가져오는 것이라고 밝히기도 했다.