2029년, 과연 ‘특이점’은 올 것인가

김성태 고려대 미디어학부 교수

바야흐로 데이터 시대다. 지금 우리는 빅데이터, 인공지능(AI), 블록체인 등 디지털 데이터를 기반으로 한 4차산업혁명을 목도하고 있다. 인류가 문자와 기호를 사용하기 시작한 지난 5천년 동안 문명의 흐름이 지구촌 곳곳에서 큰 강을 이루고 이제는 모이는 바다에 이르렀다. 데이터가 원유가 되어 모든 것이 돌아가는 시대가 된 것이다. '데이톨로지(Datalogy)' 사상의 연원(淵源)이다. 데이터에 대한 철학적, 인문학적, 과학적인 성찰의 결과라 봐도 좋을 것이다. 데이터와 연관된 키워드를 중심으로 제4차산업혁명의 시대를 살고 있는 우리의 다양한 호기심을 자극하는 지적 탐구의 장을 마련하고자 한다. 이번에는 최근 가장 핫한 키워드들인 ‘자율주행자동차’·‘디지털 트윈’·‘메타버스’ 등의 핵심기술인 ‘인공지능 AI의 인간 친화적인 진화’에 대해 ‘특이점’ 논쟁을 중심으로 살펴본다. <편집자주>

위기가 가져온 혁신의 모멘텀

한마디로 세상이 온통 난리다. 전 세계가 그동안 경험해보지 못했던 코로나 팬데믹으로 고통의 시간을 인내하며 하루빨리 위기가 끝나기만을 기다리는 중이다. 한편으론 온택트, 언택트 문화가 우리 사회에 더 확산되고 팬데믹이 오히려 위기속의 기회인양 새로운 신세계에 대한 디지털과 인공지능 기반의 문명 키워드들이 쏟아져 나오고 있다.

*제4차 산업혁명과 디지털 뉴딜

*메타버스와 새로운 세상

*인공지능이 바꾸는 미래지형

*디지털 트윈

*자율주행자동차

*블록체인, 가상화폐

...

철학자 토마스 쿤이 말한 ‘패러다임 시프트(paradigm shift)’와 4차 산업혁명을 주창한 클라우스 슈밥의 ‘그레이트 리셋(great reset)’ 모멘텀이 마치 내일쯤 올 것같은 낙관론의 키워드들이다. 뉴스나 미래학자들의 글들을 보고 있으면 마치 미래의 신문명이 바로 눈앞에 와 있는 듯하다.

그럼에도 불구하고 다른 한편으로는 ‘미래가 어떻다’가 아니라 당장 우리 앞에 닥친 문제도 제대로 해결하지 못하는 상황이 슬픈 현실이기도 하다.

최근 MIT가 발행하는 '테크놀로지리뷰'(2021년 7월 30일)는 코로나 19 바이러스를 탐지하고 추적하기 위해 전 세계적으로 개발된 인공지능 기반의 알고리즘이 대부분 임상에서 효능을 인정받지 못했다고 보도했다.

그 실패의 핵심은 “오리지널이 아닌 짜집기한 위험한(Frankenstein) 데이터를 사용했기 때문에 수백개의 AI 알고리즘 모델이 임상을 통과하지 못한 것”이라며, 데이터의 질적 문제로 발생하는 인공지능 알고리즘의 한계를 지적했다. 그러나 분명한 점은 최근 들어 우리 사회가 가장 많이 사용하는 키워드중의 하나가 ‘인공지능(AI)’이라는 사실이다.

필자는 한국언론진흥재단이 제공하는 국내언론매체 뉴스 빅데이터 시스템인 '빅카인즈'에서 금세기 들어 이 키워드가 얼마나 언론에 보도됐는지를 간략히 살펴 보았다.

2001년 1월 1일부터 2021년 8월 11일까지의 국내 주요 언론매체에서 ‘인공지능(AI)' 키워드가 포함된 뉴스건수는 무려 41만6천77건으로 확인됐다. 지난 20년간의 연도별 추이에서도 2000년에는 163건이, 2005년 1천471건, 2015년 5천801건 그리고 2020년에는 기하 급수적으로 늘어나서 9만835건으로 나타났다. 물론 글로벌한 추세이기도 하지만, 국내 언론에서 AI에 대한 관심이 최근 들어 얼마나 급증해 왔는가를 단적으로 보여준다.

그럼 과연 ’인공지능‘은 지금 우리에게 어떤 기술적 모멘텀이 되고 있는가.

지난 2018년 12월, 미국의 퓨리서치센터는 979명의 각 분야 전문가들에 대한 질의, 응답 결과를 바탕으로 '인공지능과 인간의 미래'(AI and the Future of Humans)라는 매우 흥미로운 분석 리포트를 내놓았다.

AI가 인간 삶의 편의성과 함께 생산성을 확장시키면서도 또한 오래된 생활 패턴들을 파괴해 가고 있다는 내용이다. 대부분 전문가들의 답변에는 인공지능이 널리 사용될 미래의 두려움에 대한 내용이 포함돼 있었는데, 가장 자주 언급된 몇 가지 우려는 다음과 같다.

*효율성 및 통제를 위해 설계된 AI의 감시 및 데이터 시스템은 본질적으로 개인들에게 ‘프라이버시 침해’를 포함한 다양한 위험을 초래할 수 있다.

*AI에 의한 사람들의 일자리 대체는 경제적 그리고 디지털적 격차를 넓혀 사회 격변으로 이어질 수도 있다.

*AI에 의존하게 되면 개인의 인식능력, 사회적 그리고 생존적 능력들이 감소될 수 있다.

*시민들은 통제 불능의 사이버 범죄 및 사이버 전쟁에 노출될 가능성과 다양한 사회 조직들은 무기화된 정보에 의해 위험에 직면할 가능성이 커지게 된다.

과연 이 시대의 가장 핫한 키워드인 ’인공지능‘은 앞으로 인간에게 어떤 모습으로 다가올 것인가. 위에서 나열한 다양한 디지털 기술의 핵심이 AI라는 점을 감안하면 이 질문에 대한 좀더 진지한 고민이 필요할 것 같다.

‘특이점(singularity)’에 대한 다양한 논쟁들

‘특이점’으로 흔히 얘기하는 ‘싱귤래러티’는 다양한 사전적 의미를 갖고 있다. 물리학에서는 ‘특정 물리량들이 정의되지 않거나 무한대가 시작되는 공간’을 의미한다. 블랙홀의 중심이나 빅뱅우주이론에서는 최초 시작점을 일컫기도 한다. 스티븐 호킹(Stephen Hawking)과 엘리스(G.F.R. Elllis)와 같은 석학들은 현재의 물리학 지식이나 법칙들이 적용될 수 없는 시작점으로 정의하기도 했다.

데이터 기반의 정보사회학에서는 ‘인공지능이 비약적으로 발전해 인간의 지능을 뛰어넘는 순간‘을 말하기도 한다.

컴퓨터 중앙처리장치의 내장형 프로그램을 처음 고안한 미국의 수학자 존 폰 노이먼(H, v, Neumann)과 버너 빈지(Vernor Vinge) 그리고 영국의 과학자이자 수학자인 앨런 튜링(Alan Turing) 등이 이 개념을 발전시켜 왔는데, 최근 들어 이 용어가 다시 주목받기 시작한 것은 뇌공학자이자 구글의 인공지능 책임자였던 레이먼드 커즈와일(Raymond Kurzweil)의 저서 ‘특이점이 온다'가 2005년 베스트셀러가 되면서 세계적인 논쟁을 일으키면서부터다.

커즈와일은 저서에서 가까운 미래에 인공지능이 모든 인간의 지능을 합친 것보다 더 강력해질 것으로 예측했다. 기술이 선형적인 발전을 하는 것이 아니라 기하급수적으로 혁신을 계속하는 '수확 가속의 법칙'(The Law of Accelerating Returns)을 반복해 결국에는 AI가 인류의 지능을 초월하는 특이점이 곧 도래할 것이라고 주장했다.

그러면서 그는 완전한 특이점의 도래와 함께 어쩌면 2029년에 컴퓨터가 인간 지능을 앞서는 시기가 될 수도 있을 것이라고 예단하기도 했다. 그때가 되면 컴퓨터가 인간의 지능을 갖게 될 수도 있고, 또는 인간의 뇌에서 생각을 하게 만드는 부분인 신피질(neocortex)에 지능정보가 내장된 마이크로 칩을 넣어 슈퍼컴퓨터나 클라우드와 연결함으로써 인간 뇌의 용량을 이론적으로 무한대로 확장시킬 수도 있다는 것이다.

세계적인 1세대 인공지능 석학자들인 마빈 민스키(Marvin Minsky)와 존 매커시(John McCarthy) 등이 ’AI' 붐을 처음으로 일으킨 이후, 지금까지 AI에 대한 유토피안적 신화는 견고하게 구축돼 왔다. 최근 전 구글 CEO였고, 현재 미국 ’인공지능 국가안보위원회(NSCAI)‘ 위원장인 에릭 슈미트(Eric Schmidt)도 앞으로 인공지능이 현대 인류가 당면한 기후변화, 빈곤, 전쟁 그리고 암과 같은 불치병도 해결해 줄 수 있을 것이라고 말했다.

그러나 AI가 가져올 미래에 대한 다른 입장도 있다. 스티븐 호킹은 인공지능이나 초지능(Superintelligence)이 머지않은 미래에 인류에게 재앙이 될 수도 있다고 강하게 경고 했다.

미래학자인 제리 캐플런(Jerry Kaplan) 스탠포드대 교수는 ”인공지능은 인간의 능력을 초월하나, 절대로 인간과 같은 사고방식으로, 생각하는 것은 불가능하다...일부 미래학자들이 인공지능이 비약적으로 발전해 인간의 지능을 뛰어 넘는 ‘싱귤래러티’가 곧 올 것이라는 주장하는데 ‘특이점’은 없다“고 주장하기도 했다.

2014년 ‘워싱턴포스트’는 자율주행차 기업인 테슬라의 일론 머스크(Elon Musk) 회장이 “AI는 원자폭탄보다 더 위험하며, AI 연구는 악마를 소환하는 일"이라며 인공지능에 대한 과도한 맹신을 비판한 사실을 보도하기도 했다.

‘특이점이 온다’의 저자 커즈와일 또한 미래의 AI 세상이 가져올 수 있는 위험성을 언급하면서, 특이점을 거치면서 어쩌면 AI는 자신보다 더 우월한 또 다른 AI를 스스로 만들어내기 시작할 수 있게 되면 인간은 더 이상 AI를 통제할 수 없게 될 수도 있는 시나리오가 가능하다고 적었다.

어쩌면 인공지능과 인간지능이 구분되는 게 아니라 AI와 인간의 뇌가 자연스럽게 하나가 될 수도 있는 ”인간이 점점 기계처럼 될 것이고, 기계는 점점 인간처럼 될 것“이라고 주장하면서 그 특이점의 시기가 빨라질 수 있다고 예측했다.

커즈와일이 적은 다음 인용구는 특이점이 가져올 미래사회에 대한 걱정이 여실히 드러난다.

“불은 난방과 요리를 가능하게 하지만 집을 태울 수도 있다. 기술은 언제나 양날의 칼이다.”

영화 ’마이너러티리포트‘에서나 ’인셉션‘ 혹은 ’토탈리콜‘ 등에서와 같이 인간의 뇌를 조작해 새로운 기억을 만들거나 없애기도 하고 혹은 엄청난 지능을 심을 수 있다면 과연 지금의 우리 모습과 인간 사회는 어떻게 될 것인가를 각자 상상해 볼 수 있다. 다양한 지능 범죄들이 나타나고, 어쩌면 기계로 전락한 인간의 모습도 그려볼 수 있을 것이다.

“2029 기계가 멈추는 날”

“과연 많은 미래학자들이 말하는 시기, 즉 2029년에 싱귤래러티는 올 것인가.”

커즈와일이 ‘특이점이 온다’ 저서를 발표한 시점이 2005년이기에, 그 이후 정보기술의 비약적인 발달로 인해서 많은 인공지능학자와 미래학자들은 특이점의 시기를 2029년으로 앞당겨 얘기해왔다.

빅데이터, 사물인터넷, 인공지능 등과 같은 4차산업혁명의 동력이 글로벌 트렌드를 이끌고, 디지털 트윈이나 메타버스와 같은 다양한 디지털 기술이 새로운 문명을 만들 것 이라는 장밋빛 전망속에서 최근 재미있는 반론들이 소개되고 있다.

특히 2021년에 뉴욕타임즈 기자인 케이드 메츠(Cade Metz)의 '지니어스 메이커스(Genius Makers)'나 케빈 루스(Kevin Roose)의 ‘퓨처프루프(Futureproof)' 등과 같은 저서에서도 기계와 로봇시대에 인문학을 배워야 하는 이유와 함께 기계와 인간이 어떻게 공존할 수 있는가를 강조하며 ‘인공지능’과 ‘특이점’에 대해 점검이 필요하다는 주장이 제기되기도 했다.

가장 최근 '2029 기계가 멈추는 날(Rebooting AI: Building Artificial Intelligence We Can Trust)'이 출간됐다. 저명 인지과학자인 MIT 출신의 케리 마커스(Gary Marcus)와 세계적인 인공지능 권위자인 어니스트 데이비스(Ernest Davis)는 21세기 들어서 AI가 마치 현대 사회의 만병통치약이며 미래의 유일한 성장동력인 것처럼 미래학자와 언론들에 의해 과대 포장되는 것을 지적하며 현 시점에서의 AI에 대한 냉철한 진단을 하고 있다.

이 책은 현재 AI 기술이 직면하고 있는 한계점에 대해 현실적인 평가를 내리면서 보다 미래 지향적이고 인간 친화적인 인공지능이란 무엇인가에 대해 의미 있는 논점을 제시했다. 그리고 결론적으로 2029년에 미래학자들이 얘기하는 ’싱귤래러티’는 오지 않을 것이며, 인공지능이 인간지능을 추월하는 특이점은 2029년이 아니라 그 보다 더 오랜 시간이 걸릴 것이라는 것이다.

저자들은 “AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 뛰어넘는, 혹은 일부 초월한 수준에 도달할 AI의 실현은 아직 이뤄지지 않았다”라고 하며 다음과 같은 질문을 던졌다.

“1억대 판매된 아마존의 알렉사는 정말 믿을 수 있는 비서인가, 구글의 자율주행차는 왜 아직 인간 없이 달리지 못하는가, IBM의 왓슨은 왜 의과대 1년 차보다 진단능력이 무능한가.”

현 시점에서의 실망스러운 AI에 대한 탄식이다.

저자들은 이에 대해 보통 인간은 가지고 있지만 딥러닝 기반의 로봇은 ’상식과 추론(common sense and inferential reasoning)’의 영역에서 한계에 직면한다고 말한다. 그래서 이들은 진정한 인공지능의 레벨업은 지능정보 데이터의 학습에 집중된 딥러닝을 넘어선 ‘딥언더스탠딩(deep understanding)’이 필요하다고 지적한다.

인간사회는 매우 개방적(open system)이기에 ‘심화 이해’가 절대적으로 필요하며, “AI는 훨씬 더 인간다워져야 한다”를 강조하는 저자들은 인간 내면의 심층계를 이해할 수 있는 그 지점이 ‘특이점’으로 가는 과정에서 가장 중요하다고 주장했다.

우리가 느끼기에도 아직까지는 AI의 한계는 분명한 것 같다. 사물인터넷으로 수집된 빅데이터의 양이 충분히 많아도 또한 딥러닝으로 구축된 알고리즘이 아주 정교하고 고차원적일지라도, 인간이 갖는 복잡하고 때로는 패턴에서 벗어나는 비이성적이고, 감정적이고 충동적인 행위에 대한 추론 능력을 완벽하게 갖추기는 쉽지 않을 것이다.

‘특이점’에 대한 필자의 소고(小故)

필자는 오랫동안 빅데이터, 인공지능, 메타버스 등의 디지털 기술에 대한 인문학적 연구를 진행해 오고 있는 사회과학자다.

데이터기반 디지털 기술의 선한 영향력을 믿고 있으며, 그런 ‘특이점‘ 시대가 언젠가는 먼 미래에 올 수도 있다는 생각 또한 갖고 있다.

그럼에도 몇몇 미래학자들이 내놓는 ‘특이점’의 레토릭이, 2029년 혹은 2045년과 같이 구체적 연도를 특정해 조만간에 올 것이라는 전망들이, 어쩌면 미래에 AI가 인간을 지배하게 될 것이라는 막연한 두려움들이 현재 AI 기술에 대한 무비판적이고 맹목적인 믿음의 결과가 아닌가 하는 의구심을 갖고 있기도 하다.

최근 다양한 지적 탐색속에서 현재의 AI 기술진화과정에서 어떤 부분이 특별히 문제가 되는지와 진정 ‘인간을 위한 AI’가 되기 위해 어떤 노력들이 필요한가에 대한 필자 개인의 고민속에서 나온 몇가지 제안점을 공유한다.

첫째는, ‘뇌공학적 이유’다. 인간의 정신세계는 생각보다 복잡하다. 학습할 수 있는 지능과 인간 본연의 내면적인 의식은 분명 다르다. “열 길 물속은 알아도 한 길 마음속은 모른다”라는 속담이 있다. 가끔은 내 자신마저도 내 마음을 모를 때가 많다. 많은 사람들도 비슷한 느낌을 가질 때가 있을 것이다. 그만큼 인간의 마음을 관장하는 ‘뇌’와 내면적 세계는 복잡하며, 쉽게 관찰하거나 측정하기가 어렵다.

정신분석학을 개척한 지그문트 프로이트(Sigmund Freud)는 인간의 정신세계는 물위에 떠있는 빙산처럼 10%의 의식과 물속에 가라 앉아 있는 90%의 무의식으로 이루어져 있다고 했다. 어쩌면 인공지능이 학습하는 데이터는 인간이 의식속에서 구축된 것중에서 이성적이고 논리적인 정보 중심일 것이다.

20세기 대표적 철학자인 대니얼 데닛(Daniel Dennett)은 그의 저서 '의식의 수수께끼를 풀다(Consciousness Explained)'에서 인간의 의식은 분명 지능과는 다른 차원이고 인간이 가진 특별한 속성이다라고 적고 있다. 뿐만 아니라, 개인으로서의 무의식과 집단으로 갖게 되는 무의식 또한 지능으로 학습하거나 논리적으로 설명하기는 더더욱 쉽지 않다.

가끔 한 사람 한 사람은 다 ‘우주의 중심’이라고 말한다. 그 만큼 인간의 의식구조나 정신세계는 복잡하며, 인류 전체를 아우르는 대표성과 패턴을 찾기는 힘들다는 얘기다. 물론 ‘인간마저도 인식하지 못하는 무의식의 세계까지도 뇌공학이 접근하거나 학습할 수 있다면’이라고 가정한다면 특이점이 올수도 있겠지만, 필자는 '쉽지 않다. 또한 금방 올 것 같지는 않다'고 답할 수밖에 없다.

둘째는, ‘인간이란 존재는 매우 감정적인 주체’이기 때문이다. 어쩌면 미래에는 인공지능이 인간의 지능을 대체하고 인간과 유사해 질수도 있다. 인간지능도 인공지능을 통해 보다 확장된 시스템을 가질 수도 있을 것이다. 매우 이성적이고 지능형 기반의 데이터는 대규모 학습과 딥러닝을 통해 진화할 수 있기 때문이다.

그러나 인간은 이성적이면서도 매우 감성적인 생명체다. 우리들 모두가 각자의 삶을 되돌아보면 얼마나 감성적인 요소가 우리의 순간 순간의 일상을 지배하고 있는 가를 알 수 있다. 식사 메뉴를 정할 때도, 오늘 하루의 스케줄을 잡을 때도, 누군가를 번개로 만날 때도, 여행을 떠날 때도 미리 계획된 것이 아니라 갑작스러운 감정적 기분에 따라 행동할 때가 많다.

누군가를 좋아할때도 이성적인 판단 기준보다 순간의 느낌으로 결정하고, 선거에서 투표를 할때도 이미지와 같은 감성적인 요인으로 결정 할 때가 많다. 주식이나 재테크 상품을 고를 때도 매우 신중하게 정보를 찾아서 매우 이성적인 판단을 할 때도 있지만, 그렇지 않고 순간의 감정으로 결정할 때도 있다.

이런 인간이 갖고 있는 이성적으로 혹은 논리적으로 설명하기 힘든 즉흥적, 투기적, 기분적인 감정적 요소를 어떻게 인공지능이 학습을 통해 섭렵할 수 있을까하는 의구심이 든다는 얘기다. 인간감성을 완벽하게 대체하는 인공감성은 가능할까의 문제다. 최근 ‘인공지능’대신 ‘인공감정지능(Artificial Emotional Intelligence)’이라는 연구 분야가 새롭게 주목받는 이유이다.

미디어철학자이자 미래학자였던 먀샬 맥루한은 미디어 기술을 ‘정보의 정밀도’를 바탕으로 ‘핫미디어(hot media)‘와 ’쿨미디어(cool media)‘로 나눴다.

비슷하게 필자는 인공지능이 학습하는 데이터를 논리적이고 정형화된 ’쿨 데이터(cool data)‘와 감성적이고 비정형화된 ’핫 데이터(hot data)‘로 나눠 구분하고 싶다. 흔히 인공지능은 ’쿨 데이터‘기반으로는 이미 인간의 지능을 넘어섰을 수도 있을 것이다. 그러나 ’핫 데이터‘를 바탕으로 하는 인공감성은 갈 길이 아직 멀다고 생각한다. 특이점이 쉽게 올 수 없다는 또 다른 이유중의 하나다.

세 번째는 특이점이 구현되기 위한 사회적 환경은 단순한 기술적 구현보다 훨씬 더 중요하고 오랜 시간이 요구된다는 이유다. 기술적으로 자율주행차가 가능하더라도 자동차가 달릴 수 있는 도로에도 추가적인 지능형 센서와 같은 다양한 장치가 필요하다. 우리나라의 모든 길에 그러한 정보수집 센서가 설치되는 것은 더 힘들고 긴 여정이다. 그리고 그 범위를 전 세계로 확장하기에는 얼마나 더 오랜 시간이 필요할 것인가.

다시 말해, 기술적 완성과 함께 사회 구조적 환경(social infrastructure)도 같이 가야 하는 것이다. 완벽한 자동차가 있더라도 달릴 수 있는 고속도로가 없으면 무용지물이다. 그리고 그 도로가 우리가 살고 있는 공간에 충분히 깔려 있지 않으면 가고 싶은 곳에 다 갈 수 없다는 사실도 알아야 한다. 극복하기 쉽지 않은 인간 내면의 속성도 있지만 기술이 구현될 수 있는 사회적 환경의 완벽한 구현도 ‘가야할 길이 먼’ 이유다.

유발 하라리는 최근 발간한 저서 ‘호모 데우스'에서 ‘데이터교’를 언급하며 인공지능이 인간의 지능을 대체하고, 인간의 뇌에 칩을 심어 클라우드에 연결하여 인간 지능을 극대화시킬수 있는 미래 세상이 온다고 예단했다. 그 중심에 인공지능이 있다고 했다. 그러면서 세상을 연결하는 ‘만물인터넷(Internet of All-Thing)'의 필요성을 언급했다.

그러나 이런 사물인터넷을 넘어서는 만물인터넷이 지금 세상의 모든 부분에 연결돼 데이터를 수집하는 시대는 과연 언제 올 수 있을까하는 문제다. 어쩌면 특이점을 가져오게 하는 인공지능의 기술적 한계는 이미 넘어섰다고 하더라도, 인간이 존재하는 환경으로서의 모든 영역에 이러한 기술적 적용이 제대로 발현될 수 있는 완벽한 무대는 쉽게 구현되는 것이 아니기 때문이다.

‘딥러닝‘에서 ’딥언더스탠딩‘, ’딥필링‘으로

필자는 오늘 새 화두를 하나 던지고 싶다. 미래의 인공지능 기술은 ‘딥러닝’과 ‘딥언더스탠딩’을 넘어서 ‘딥필링(deep feeling)’까지도 필요하다는 것이다.

딥러닝(외면의 세계에 집중하고 딥페이스와 같이 이미지 인식에 대해 더 집중)에서 시작해, 인간은 사회적 존재이고 환경의 지배를 받기에 ‘맥락’이라는 차원에서의 딥언더스탠딩이 필요하며, 나아가서는 내면의 세계이며 매우 복잡하고 때로는 즉흥적이며 예측하기 힘든 인간의 느낌과 같은 감정 메커니즘에 대한 학습인 ‘딥필링’으로까지 나아가야 한다는 얘기다.

왜냐하면 인간사회는 복잡계이고, 구성 개체들간의 인과성도 있지만 ‘상호 작용성’의 느슨한 관계도 많고 때로는 변화의 메커니즘이 즉흥적이고 예상하기 힘들때도 많기 때문이다. 또 ‘2029년 기계가 멈추는 날’의 저자들이 강조하는 보편성보다도 사회 구성원들의 하나 하나의 개체성, 즉 개인 차별성이 존재하며 이런 속성들이 인공지능이라는 미래 기술의 최종적인 진화와 발전에 결정적인 역할을 할 것이라는 기대도 있다.