‘딥러닝’에서 ‘딥필링’ 시대로

김성태 고려대 미디어학부 교수

바야흐로 데이터 시대다. 지금 우리는 빅데이터, 인공지능(AI), 블록체인 등 디지털 데이터를 기반으로 한 4차산업혁명을 목도하고 있다. 인류가 문자와 기호를 사용하기 시작한 지난 5천년 동안 문명의 흐름이 지구촌 곳곳에서 큰 강을 이루고 이제는 모이는 바다에 이르렀다. 데이터가 원유가 되어 모든 것이 돌아가는 시대가 된 것이다. 이 연재 시리즈는 '데이톨로지(Datalogy)' 사상의 연원(淵源)이다. 데이터에 대한 철학적, 인문학적, 과학적인 성찰의 결과라 봐도 좋을 것이다. (빅)데이터와 관련된 키워드를 중심으로 제4차산업혁명의 시대를 살고 있는 우리의 다양한 호기심을 자극하는 지적 탐구의 장을 마련하고자 한다. 이번에는 딥러닝 기반의 인공지능 기술의 한계를 지적하며, 미래 핵심 기술로 인간의 복잡한 ‘감정계’에 대한 딥필링의 중요성을 제기한다. 또한 이런 패러다임 시프트를 위한 딥필링의 메커니즘을 사회과학자의 한사람으로서 상상해 보고자 한다. <편집자주>

“철학은 세상에 대한 화두를 던진다. 과학은 그 화두에 대해 답을 하곤 한다. 필자는 과학자라기보다는 인문학자다. 여기서 ‘딥러닝’ 단계를 넘어서 ‘딥필링’에 대한 상상력을 동원하며 화두를 꺼낸다. ‘딥필링’이 실현될 수 있는 미래기술의 진전에 대해 많은 과학자들이 답해 주기를 기대한다.”

‘뉴로모픽’과 ‘뉴럴링크’

지난 23일, 세계적인 과학 학술지인 ‘네이처 일렉트로닉스’의 최근호에 매우 흥미로운 논문이 게재됐다. 삼성전자와 하버드대학교 연구진이 공동 진행한 차세대 인공지능 반도체인 ‘뉴로모픽(Nueromorphic)’의 출시 가능성이 처음으로 공개됐다. 인간의 뇌 신경망에 있는 약 100조개의 뉴런들의 전기 신호를 나노 전극으로 측정한 후, 뉴런간의 연결을 보여주는 네트워크 지도를 메모리 반도체에 복사해 인간 뇌의 기능을 재현할 수 있는 기술이다. 이런 진화는 인간 뇌의 고차원적인 기능들인 인지, 추론, 감정 등까지도 뉴로모픽 반도체를 이용해서 실현할 수 있고, 어쩌면 인간의 뇌를 복사해서 메모리 반도체 플랫폼에 구현할 수 있는 방법이 될 수 있다는 것이다.

이와 비슷한 뉴스가 전 세계적인 반향을 일으켰던 적은 작년 이맘 때쯤이다. 2020년 8월 29일, 테슬라의 창업자인 일론 머스크가 세운 뇌신경과학기업인 ‘뉴럴링크’가 원숭이 뇌에 수많은 학습데이터를 담고 있는 컴퓨터 칩을 이식하는데 성공했다고 발표했다. 유튜브를 통해 ‘브레인-머신 인터페이스’ 기술 시연을 직접 선보였었는데, 칩이 이식된 쥐, 원숭이, 돼지들이 손발과 같은 신체를 사용하지 않고 생각만으로도 비디오 게임을 할 수 있음을 공개했다. 인공 지능적 차원에서 ‘뇌’에 칩을 이식하는 가설이 많이 논의는 됐지만, 실제로 ‘컴퓨터’와 연결된 칩을 인간의 뇌에 이식하거나 혹은 인간의 뇌와 로봇의 뇌를 연결함으로써 인간의 지능과 감정시스템을 로봇에서도 구현할 수 있음을 이론적으로 그리고 기술적으로 보여준 것이다.

뇌에 컴퓨터 칩을 이식한 원숭이가 컴퓨터 탁구 게임하는 모습이 공개됐다. (영상=뉴럴링크)

실제로 뉴럴링크의 기술력으로 인간의 두개골에 동전만한 구멍을 뚫어 컴퓨터 칩을 이식해 뇌에서 발생하는 전기 신호를 감지해 전달하거나, 외부의 정보나 데이터를 칩으로 전달해 뇌에게 명령을 내릴 수 있도록 하는 인터페이스가 지금도 가능하다고 발표했다. 인간의 뇌에도 칩을 심어 인공지능로봇과 연결해서 치매와 같은 뇌의 지각이나 감각활동의 장애를 겪고 있는 환자 치료가 가능하다는 것이다. 기술적으로는 가능한 이 시나리오가 인간을 대상으로 하는 실험이 완료되면 상용화를 추진한다는 것인데, 어쩌면 상당한 지능을 가진 사이보그의 상용화가 가까운 미래에 가능하다는 것처럼 들린다.

사람의 손가락에 신원정보나 카드정보가 담긴 ‘베리칩(Verichip)'을 이식하는 기술은 이미 오래전에 소개돼 몇 년 전부터 실험적으로 이용돼 왔다. 이 전자 생체칩을 이식해 키 대신 손을 갖다 되면 자동으로 차동차 문이 열리고 다양한 결재까지 할 수 있다. 애완용 동물의 실종을 방지하기 위해 전자칩을 몸속에 이식하던 기술을 인간의 몸속에도 심기 시작했던 것이다. 2010년에는 미국의회에서 건강보험제도의 체계적 관리를 위한 방안들을 추진하는 과정에서 전 국민에게 베리칩을 이식하게 하는 개혁법이 논의되기도 했었다. 사람을 대상으로 하는 실험이기에 인간 존엄성의 심각한 훼손이라는 지적과 함께 칩에 담긴 개인정보가 악용될 수도 있는 위험성 때문에 바로 실현되지는 않았지만 많은 논쟁을 불러오기도 했다.

딥필링(deep feeling)을 개념화하다

인간의 뇌를 컴퓨터와 연결하거나 혹은 복사나 뇌 이식을 통해 의식하거나 사유할 수 있는 인공지능이 ‘실현된다면 다음으로 우리는 어떤 고민을 해야 할 것인가? 필자는 기계학습을 통해 원하는 분석 결과를 제공해주는 ‘미스터 왓슨’이나 ‘알파고’와 같은 인공지능 알고리즘 기반에서, 이제는 내 감정까지도 이해하고 반응하는 '인공감정지능'의 구현이 다음 시대의 가장 중요한 미션이 될 것이라고 생각한다. 이제부터는 “복잡계-열린계-감정계...깊고 복잡하고 변화무쌍한 세상과 직접적으로 교류하는 감정의 세계”를 이해하고 이를 구현할 수 있는 인공감정 시스템을 개발하는 것이 관건이 될 듯하다.

딥(deep)의 사전적 의미는 “단순히 표면적으로 접근하기 보다는 복잡하고, 심오하며, 이해하기 힘든 구조를 자세히 보다”라고 얘기할 수 있다. 느낌 혹은 감정은 어떤 경험에서 순간적으로 갖게 되는 감각적 반응이다. 이는 주관적이며 대상과의 상호작용에 따라 달라지는 개인적 경험이다. 어떤 감정을 체험하는 것뿐만 아니라 시각, 청각, 촉각과 같은 신체의 감각을 능동적으로 이용하는 것까지 포함한다. 가끔은 신체 감각이 아니라 흔히 얘기하는 ‘육감(sixth sense)'도 있다. 또는 곧 다가올 앞날에 대한 막연한 ’감‘을 가질 때도 있다. “다음 주 있을 시합은 느낌이 좋아” 혹은 “이번 계약은 느낌이 안 좋아”와 같은 표현들이다.

인간의 감정계에는 ‘의식’할 수 있는 감성도 있지만 의식하지 못하고 잠재된 심연의 무의식 영역도 있다. ‘딥필링(deep feeling)’은 이곳에 자리 잡고 있다가 ‘계획에 없이’ 불현 듯 기억으로 소환되는 작업(데카르트는 이를 ‘상기’로 표현)과 그리고 끓임 없이 변화하는 외부 세상에 대해 ‘생각할 시간도 없이’ 본능적인 ‘촉’이 먼저 개입되면서, 최종적으로 내면의 잠재된 기억, 지능과 감정 그리고 외부의 상황 등이 순간적으로 만들어 내는 감정의 메커니즘이다. 그런 면에서 최근까지 이 과정을 이해하기 위해 자기보고식 질문이나 뇌파와 같은 생리적 방식으로만 측정하고 결과를 주장하는 것은 문제가 있어 보인다. 앞으로 여기에 대한 보다 심층적인인 접근이 절대적으로 필요한 이유다.

과연 인공지능은 의식과 감정을 가질 수 있을까

최근 과기정통부의 발표(2021년 9월 20일)에 따르면, 정부는 내년인 2022년부터 향후 5년간 3천억원 이상의 예산을 투입해서 차세대 AI를 개발하겠다고 발표했다. 전 세계가 AI 신기술을 위해 엄청난 노력을 기울이고 있는 가운데 나온 뉴스다. AI 최강 국가인 미국의 경우만 보더라도 지난 2021년 6월에 향후 5년간 2천500억 달러, 우리나라 돈으로 약 280조원을 투자하는 차세대 AI 프로젝트인 ’끝없는 개척자 법안‘(endless frontier act)을 통과시켰다.

반가운 소식은 차세대 인공지능 중점 추진 영역을 살펴보니, 학습되지 않은 실제 세계의 환경에서 새롭게 발생한 문제들을 해결하기 위한 ‘상식기반 추론’과 ‘실세계 변화 적응’ 기술을 강조했고, 또 인간과 AI간의 정서적 공감을 위한 감정인지나 표현을 강조한 ‘교감형 AI'기술의 개선 등이 포함됐다. 이런 동향은 기존의 인공지능 중심에서 향후 인공감정지능 분야로 관심을 확장하고 더 많은 노력을 기울여야 한다는 정책적 의지로 보인다.

그럼 과연 인공지능은 인간이 갖고 있는 수준의 의식과 감정을 가질 수 있을까.

당연히 지금보다 진화된 ‘의식과 감정’을 가진 인공지능 로봇이 앞으로도 계속 개발될 것이다. 그러나 인간처럼 매우 복잡한 마음, 의식, 윤리적 가치, 타인과 외부 환경과의 지속적인 감정적 교류를 통한 공감까지도 정확하게 구현할 수 있는 로봇은 정말로 가능할까 하는 의구심은 여전히 든다. 보통 사람들의 신경망에서 보이는 작동원리의 공통되는 패턴을 찾아 ‘인공 신경망’을 만든다고 해서, 인간의 뇌신경세포와 시냅스가 만들어 내는 메커니즘 환경을 완벽하게 대체할 수 있을까라는 의문이다.

많은 철학자와 인공지능 과학자들이 이 문제에 대해 다양한 의견들을 내놓았는데, 그 중에서도 가장 널리 알려진 것은 언어학자이자 심리학자인 존 설(John R. Searle)이 촉발한 ‘중국어 방’ 논쟁이다. 이 실험구조는 ‘튜링테스트(turing test)‘로는 인공지능 기계나 로봇의 우수성을 판단할 수 없음을 보여주기 위해 고안됐다.

존 설 '중국어방 논증'

위 그림에서 보듯이 어느 비밀의 커튼으로 가려진 방에 중국어를 전혀 모르는 한 영국인이 있다. 중국어로 된 질문을 받게 되면, 인공지능 알고리즘 시스템이 중국어로 정답을 찾아서 심사관에게 제출하게끔 만들어졌다. 외부에 있는 질문자나 심사관의 입장에서는 방안을 볼 수는 없지만 중국어로 된 질문에 대한 답을 기대하기에 방안에는 중국인이거나 아니면 중국어를 아는 사람일 것으로 생각한다. 그러나 실제 방안에 있는 사람은 영국인이고 중국어를 전혀 모른다. 그래서 자기가 어떤 질문을 받았는지 그리고 어떤 답을 제출했는지도 이해하지 못한다. 그럼에도 방안에 있는 인공지능 시스템은 작동해 필요한 정답을 찾아서 내보낸다.

여기에 대해 설은 인간의 의식을 갖지 못한 인공지능 시스템의 ‘자각없는 수행 (performance without awareness)', ‘의식없는 작업’(performance without consciousness)' 이라고 비판했다. 이럴 경우, 블랙박스 룸에 있는 인공지능 시스템이 해답을 내놓더라도 과연 '지능을 갖고 하는지' 혹은 '단순히 저장된 데이터를 기반으로 그냥 자동적으로 답변만을 도출했는지‘를 알 수 없다는 것이 문제라는 것이다.

이후 수많은 논쟁들이 이어졌다. 특히 ‘특이점이 온다’의 저자 레이 커즈와일의 반론이 바로 뒤따랐다. 만일 중국어 방에서 완벽한 정답이 나올 수 있다면 블랙박스 룸에 있는 사람이 어느 나라 사람인지, 중국어를 아는지 모르는지는 전혀 중요하지 않다. 정확한 정답이 나왔을 때는 그 중국어 방이 제대로 작동했다는 사실이 중요하다. 그래서 그 블랙박스 룸을 하나의 시스템으로 보았을 때는 중국어를 안다고 보는 것이 맞다. 다시 말해, 방안에 있는 사람은 중국어를 전혀 할 줄 모르지만 '방'이라는 시스템은 중국어를 할 줄 안다는 것이다.

그러나 이런 '시스템론' 주장에 대해 존 설은 재반박을 했는데, 이 방의 시스템은 중국어 해답을 찾아 주지만, 그러한 해답이 갖는 의미에 대한 이해는 없다는 것이다. 어떤 컴퓨터 프로그램도 아직까지는 스스로 인간의 마음과 같은 시스템적 효과를 주지는 못한다는 것이다. 또한 마음을 발생시키는 인간 뇌가 작동하는 방식은 컴퓨터 프로그램과는 다르다는 것이다. 인간의 뇌가 갖고 있는 수준의 ‘인과력(causal power)’을 갖고 있지 않고, 인간의 마음만큼 의식 하기도가 힘들다고 재차 주장했다. 또 중국어방과 같은 공간을 벗어나면 이 시스템은 작동하지 않을 수 있다. 실제 세상에는 이 방과 같은 닫힌 시스템은 매우 드물다. 또한 이런 실험 구조에서 조금이라도 예상하지 못한 돌발 상황이 발생하면 작동이 제한될 수도 있다는 것이다.

필자가 보기에 설과 여러 학자들의 논쟁은 단순한 언쟁만은 아닌 듯하다. 분명 양측 주장에 다 나름의 논리가 있다. 특히 후에 다니엘 데닛(Daniel Dennett)이 언급한 인공지능이 미래에 갖게 될 ‘완벽한 시스템‘의 가정은 아직까지는 현실적으로 불가능하고 추상적 모호함일 수도 있다는 사실이다. 핵심은 완벽한 시스템이 되기 위해서는 인공지능에도 분명 ‘의식’과 ‘감정’이 필요하다는 사실이다. 설의 ‘중국어 방 논증’의 문제 제기는 우리가 나아갈 길을 위해 어떤 고민을 해야 할지에 대한 매우 중요한 메지시를 던져준 것은 분명하다.

래퍼포트의 ‘한국어 방’, 논증의 재점화

일련의 ‘중국어 방’ 논쟁에서 다양한 의견들이 제시됐지만, 1988년에 윌리엄 래퍼포트(W. J. Rappaport)가 제기한 ‘한국어 방’ 논증은 특별히 더 재미있다.

한국의 한 대학교 영문학과에 세계적인 문호 세익스피어 전공 교수가 있다고 가정하자. 그는 한국어로 번역된 세익스피어 문학 작품들을 다 읽었고 현재 세계적인 세익스피어 문학의 권위자로 인정받고 있다. 그가 발표하는 한국어 논문들은 바로 영어로 번역돼 해외의 저명한 학술지에 실리고 있다. 그는 영어를 잘 알지 못하기에 ‘구문론적’ 차원에서의 작품 이해력은 적지만, 전문가가 번역한 작품을 통해 세익스피어의 전문가로서 세계적인 명성을 얻게 된 것이다.

래퍼포트의 주장은 예시한 것처럼 매우 완성도가 높은 번역물을 통해 전문가가 될 수도 있다는 것이다. 다시 한 번 ‘시스템론’과 유사한 접근을 옹호한 것이다. 사실 존 설도 궁극적으로 미래의 인공지능 컴퓨터가 시스템적 역할을 기계적으로 수행할 수 있을 것이라는 가능성에 대해서는 부정하지 않았다. 다만 인간과 같은 생명체의 내면 세계, 의식 체계 그리고 외부 환경과의 상호 교류를 통한 공감 지향성 등은 쉽게 인공지능 시스템이 갖출 수 없다는 얘기를 하고 싶었던 것이다. 그러나 래퍼포트는 미래의 인공지능로봇이 인간과 같은 총체적 사고 및 감정 메커니즘을 가질 수 있다고 한다면, 물리적 구조에 기인한 내적 감각체계의 차이에 초점을 두는 그 의미론적 이해능력까지 부정하는 것은 지나치다고 했다. 필자에게는 최근 인공지능 번역시스템도 많이 나와 있기에 래퍼포트의 주장은 좀 더 흥미로운 예시로 보인다.

‘어머니 장례식장’ 논증과 감정의 재소환

최근까지는 인공지능 로봇이 생각하고 의식할 수 있는가에 관한 논쟁이 많았다. 이제부터 필자는 느낄 수 있는 인공감정지능 로봇에 대한 얘기를 하고자 한다. ‘의식’과 ‘감정’에 보다 많은 관심을 강조하며 ‘어머니 장례식장’ 사례를 들고자 한다.

자신의 어머니가 돌아가시게 돼 장례식을 거행한다고 해보자. 세상의 모든 어머니는 특별한 존재다. 자식으로서 그 슬픔은 상상하기도 힘들다. 자녀들 모두가 장례식장에 모였지만, 특별히 더 슬퍼하는 자식도 있다. 어머니와 자식 관계에서 오는 보편적인 슬픔도 있겠지만, 어떤 자식은 근처에 살면서 혹은 같은 집에서 임종 전까지 시간을 보낸 경우에는 다른 형제들에 비해 슬픔이 더 클 수도 있다. 같은 형제 자식이지만 어머니를 잃은 각자의 감정까지도 다를 수 있다는 얘기다.

미래의 어느 날 인간의 감정을 어느 정도 학습한 인공감정지능 로봇이 장례식장에 조문을 대신 온다고 상상해보자. 혹은 나를 대신해 나와 똑 같은 로봇 쌍둥이(‘디지털 트윈’이 형상화 된)가 장례식장에 있다고 생각해보자. 그 로봇은 정말로 내가 갖고 있는 특별한 감정을 느낄 수 있을까? 물론 로봇이 사람들의 죽음에 대한 보통의 감정을 학습해 ‘일반적인’ 차원에서 공감하고 조의도 표할 수 있을 것이다. 하지만 개인 각자의 특수한 상황 차원이면 얘기는 달라진다. 각자의 사람들이 자신의 어머니와의 인연으로 인해 생기는 특별한 감정이 인공지능에 의해 과연 대체될 수 있을까 하는 의문이다.

그런데 혹자는 인공로봇이 일반적인 인간의 업무를 대신하는 차원에서만 필요하지 개인 각자를 완전히 대신할 필요까지는 없지 않나 라고 얘기할 수도 있다. 그렇기에 수많은 장례식장에서 공유하는 일반적인 감정적 공감만으로도 충분하다고도 말할 수 있다. 하지만 많은 미래학자들이 ‘특이점’을 논의하고, 세계적인 석학인 유발 하라리가 가까운 미래에 데이터교를 믿는 인간이 신의 단계에 이른다는 ‘호모 데우스’에서의 주장을 차치하고서라도 인간 감정을 제대로 구현하지 못하는 로봇의 경우는 분명 반쪽짜리 사이보그일 것이다. 인공지능이나 인공감정은 유사하면서도 분명 다르기 때문이다.

우리가 ‘어머니’를 생각하면서 느끼는 어떤 생각이 뇌의 신경세포와 시냅스의 네트워크상에서 이뤄지는 전기 스위치 활동을 통해 ‘살아 계실 때 잘해주지 못해 너무 후회가 된다“와 같은 감정적 결과를 만든다고 보면, ‘내 어머니 장례식’에서 느끼는 불효자식의 마음까지 완벽하게 이해하고, 그 복잡한 감정계를 구현할 수 있는 인공감정지능이 과연 가능할 것인가와 일맥상통하는 질문이기도 하다.

다시 말해 우리가 아직까지도 완전하게 인간의 뇌 작동 메커니즘을 이해하지 못하지만, 특별하게 ’나의 어머니‘와 나를 연결하는 많은 기억과 의식적 경험들이 현재 나의 감정을 만드는데 관여하고 있다는 것은 분명하다. 뿐만 아니라 인간의 정신세계에서 무의식이 90% 이상이라는 프로이드의 얘기를 참조하면 내가 인식하거나 자각하지 못하는 내속의 또 다른 세계가 특별한 감정을 만들어 낼 수도 있을 것이다.

결론적으로 중국어 방에 있는 사람이 데이터를 단순하게 처리하는 시스템 운영자가 아니라 주체적인 인간으로서 문제를 해결해야 한다면 이 블랙박스 방의 시스템만으로는 당연히 부족하다. 뿐만 아니라, 인간이기에 갖고 있는 특별한 속성이 기계나 시스템에 의해 쉽게 대체되는 것이 아닐 경우는 더하다. 우리들은 존 설이 논증한 '중국어방'에 “지난 1년 동안 가장 수익률이 좋은 주식 종목을 찾아 달라”고 하는 등의 질문은 충분히 할 수 있다. 그러나 “내가 이 사람을 왜 좋아하는지,” “내가 이 사람과 결혼해야 하는지” 등과 같은 의식적인 가치가 개입되고 감정적인 판단을 해야 하는 경우에는, 현재의 인공지능 알고리즘이 최적의 답변을 해줄 것이라고 기대할 수 없다는 얘기다.

물론 타협은 있을 수 있다. 그리고 더 이상은 힘들기에 적당하게 ‘우리가 할 수 있는 것은 다했어’라고 말할 수도 있다. 그러나 매우 현실적이고 가장 중요한 문제를 극복하지 못한 가운데, 연구자들은 이론적으로 마치 된 것처럼 얘기하고 언론매체는 마치 완벽한 인공지능 로봇이 등장한 것처럼 대서특필한다면 그것은 오히려 더 큰 문제가 될 수 있다. 우리 사회가 나아갈 길에 대해 잘못된 희망 섞인 진단이 후대에 엄청난 사회적 비용을 치르게 할 가능성이 있기 때문이다. 그렇기 때문에 더욱 신중해야 할 필요가 있는 것이다.