인간 뛰어넘는 슈퍼 지능 예측의 함정

이윤수

지난 칼럼에서, 슈퍼 인공 지능이 만들어낼 디스토피아에 대한 우려에 관해 얘기했다. 그런데 도대체 그 묵시록의 실체는 언제 나타난단 말인가? 이번엔 그에 대한 얘기를 해보고자 한다. 말하자면 지난 칼럼의 후편이다.

우선 오해의 소지가 있어, 용어 수정부터 해야겠다. 지난 글에서 ‘슈퍼 인공 지능’이라고 했던 용어는 사실 맞지 않는다. 왜냐하면, 인간 수준의 인공 일반 지능(Artificial General Intelligence)에 도달하게 되면, 이 인공 지능이 스스로 ‘지능 폭등’을 일으켜 인간을 능가하는 새로운 지능을 만들어낸다는 것이기 때문에(이 지점을 특이점이라고도 부른다), 엄격히 말하면 그 지능은 ‘인공’이라고 할 수 없다. 따라서 앞으로는 슈퍼 인공 지능이라는 용어는 그냥 슈퍼 지능 또는 초지능이라고 표현하는 것이 맞겠다.

좌우간, 인공 지능 연구자, 미래학자, 그리고 과학 저술가 등 이 분야에 심도 있는 지식을 가진 ‘전문가’들은 그 ‘전문 지식’을 바탕으로 슈퍼 지능이 언제 도래할 것인지에 대해 나름대로 전망한다. 일부는 뭔가 천기누설이라도 하듯, 선지자처럼 ‘예언’을 하기도 한다. 어쨌든 그런 쇼맨십은 ‘그래서, 그게 도대체 언젠데?’라고 하는, 대중이 가장 궁금해하는 질문에 대한 약간의 의무감 내지는 인간의 공통적 미래 본성의 발현일 것이다.

근래에 인공 지능 분야에서 (아마도) 가장 유명한 미래 예측은 ‘특이점’이라는 용어를 대중화시키는 데 큰 공을 세운 레이 커즈와일(Ray Kurzweil)의 견해일 것이다. 근래라고는 했지만, 그의 책 ‘특이점이 온다(The Singularity is Near)’도 출간된 지 벌써 10년이 되었다는 게 함정이긴 하다. 좌우간 아직도 많이 언급되고 있는 예측값이니 소개해 보겠다.

이 책에 의하면, 커즈와일은 우선 개인용 컴퓨터가 인간 두뇌 용량을 넘는 시점을 2020년으로 봤다. (얼마 안 남았다! 최근엔 그때쯤 애플 자동차가 출시될 거라는 소문도 돈다) 그리고 대략 그 시점에 나노 로봇 시대가 열리고, 이를 통해 인간 두뇌를 속속들이 파악하게 된다. 그리고 드디어 인공 지능이 2029년에 튜링 테스트를 통과한다. (작년에 13세 소년 버전의 인공 지능이 세계 최초로 튜링 테스트를 통과했다는 소식에 대해 커즈와일이 반박하고 나선 것을 기억하는가? 그는 2029년 튜링 테스트 통과 여부를 두고 로터스 창립자인 밋치 케이푸어(Mitch Kapor)와 내기까지 한 상태다)

이후 2030년 말쯤이면 인간 두뇌를 기계에 업로딩하는 게 가능해지고(그래서 인간 2.0으로 거듭나게 되고), 2045년 즈음에 드디어 인간을 능가하는 슈퍼 지능이 나타나는 특이점에 도달하게 된다는 것이다. 커즈와일이 이 책에서 근거로 현란하게 보여주고 있는 수십 종의 지수함수, 멱함수 그래프를 보다 보면, 이 예측 시점들이 정말 과학적 분석의 결과라고 믿고 싶어진다.

정말일까? 다른 전문가들의 의견도 비슷할까? 친절하게도, 닉 보스트롬(Nick Bostrom)은 최근 펴낸 ‘초지능(Superintelligence)’이라는 책에서, 인공 지능 관련 전문가 170명의 예측을 설문 조사한 통계 자료를 싣고 있다. 그 통계의 중간값 결과에 의하면, 전문가들이 보는 인간 수준 기계 지능에 도달할 시점은 2022년까지는 10% 가능성, 2040년까지는 50% 가능성, 2075년까지는 90% 가능성이다. 또한, 이 시점으로부터 인간 지능을 능가하는 슈퍼 지능의 도래 시점은 2년 내 가능성이 10%, 30년 내 가능성은 75%였다.

따라서 결과를 종합해 보면, 커즈와일보다는 보수적이긴 하지만, 다른 전문가 집단이 보기에도 대략 금세기 안에는 슈퍼 지능이 나타날 가능성이 매우 높다는 것이다. (어림잡아, 2075년 90% 가능성에, 추가 30년 75% 가능성을 적용하면, 90% * 75% = 67.5%)

정말 그럴까? 하지만 여기에 좀 초를 치는 논문 결과가 있다(Armstrong & Sotala, 2012). 이 논문은 1950년대부터 지금까지 인공 지능 관련 문헌에 나오는 95건의 예측을 분석한 것이다. 여기서 주목할 것은, 인간 수준 인공 지능의 도달 시점 예측이 대략 예측 시점 이후 15년에서 25년에 몰리는 분포 경향을 보인다는 것이다.

재미있는 사실은 이 분포 결과가 전문가든 비전문가든 차이가 없다는 것이다. 또한, 실패한 예측만 모아서 분포를 그려도 같은 결과가 나온다. 이는 옛날 사람이 했든 요즘 사람이 했든, 그 예측이라는 게 전문 지식이나 과학적 분석에 근거한다기보다는 인간의 공통적인 심리적 과정(편향 또는 오류)에 기반을 둔다는 것을 강력히 시사한다는 것이다.

공식적 학술 분석 결과는 아니지만, 비슷한 관찰 사례가 있다. 바로 와이어드 편집장인 케빈 켈리(Kevin Kelly)가 마스-갤로우(Maes-Galleau) 법칙이라 이름 붙인 것으로, 미래 유망 기술에 대해 예측하는 사람은 보통 자신의 예상 수명의 경계에 그 기술의 도래 시점을 갖다놓는 경향이 있다는 것이다. 이를 처음 언급한 것은 MIT 미디어 랩의 패티 마스(Pattie Maes)인데, 그녀는 동료 연구자들이 인간 두뇌 업로딩에 대해 예측할 때, 그 기술에 대한 예측 도래 시기가 대부분 예측자의 나이가 70세가 되는 시점에 수렴하는 것을 발견했다. 과학 소설 작가인 조엘 갤로우(Joel Gallaeu)도 그의 책 ‘급진적 진화(Radical Evolution)’에서 비슷한 개념을 언급하고 있다.

그래서 켈리는 두 사람의 이름을 따 마스-갤로우 시점을 정의했는데, 이게 바로 예측자의 기대 수명 바로 직전(켈리의 표현을 빌자면, n-1)이다. 켈리는 더 나아가 한 사회를 구성하는 개인들의 평균적인 마스-갤로우 시점이 그 사회의 공식적인 마스-갤로우 시점이 된다고 가정한다. 즉, 베이비붐 세대가 대부분 세상을 떠날 2040년경에 대부분의 세계적 규모의 혼란을 일으킬만한 미래 사건들의 시점이 수렴하는 경향이 있다는 것이다.

애초 미래 예측의 명제 자체도 다시 한 번 생각해 볼 문제다. 기술 미래의 시나리오는, 유토피아든 디스토피아든, 기술은 어쨌든 급격히 ‘발전’할 것이고, 그 전제하에 상상할 수 있는 최대치의 일들이 벌어질 것이라 대개 가정한다. 일단 인간 수준의 인공 지능이 개발되면 슈퍼 지능이 단기간 내에 달성될 것이라는 예상은 일종의 사고 실험(thought experiment), 즉 실제로 실험하거나 검증해 볼 수 없는 사건을 상상해 보는 것에 불과하다.

그런데 예를 들어, 라플라스의 악마(Laplace’s demon)라는 사고 실험을 보자. 이는 수학자 라플라스가 가정한 뉴턴 물리학적 결정론을 표현한 것으로, “우주에 있는 모든 원자의 정확한 위치와 운동량을 알고 있는 존재가 있다면, 이것은 뉴턴의 운동 법칙을 이용해, 과거, 현재의 모든 현상을 설명해주고 미래까지 예언할 수 있다”는 것이다.

이것에 대한 반대 이론은 많은데, 대표적인 예로 양자 역학의 확률론적 물리학과 배치된다. 즉, 입자의 위치와 운동량을 동시에 정확히 알 수 없다는 하이젠버그의 불확정성의 원리는 라플라스의 악마라는 존재 자체를 부정한다. 마찬가지로 슈퍼 지능의 사고 실험에도 강한 반론이 있다. 그것은 아직 인간의 사고라는 메커니즘을 정확히 밝혀내고 있지 못하고 있다는 것이 이 사고 실험의 가장 큰 함정이라는 것이다. 불확정성의 원리가 라플라스의 악마를 부정한 것처럼, 인간 사고의 메커니즘, 또는 그 메커니즘에 이르는 경로를 정확히 알 수 없는 것으로 밝혀진다면, 슈퍼 지능의 악마 논쟁은 그냥 과거의 해프닝으로 묻힐지도 모른다.

그리고 또 한가지, 인공 지능 미래 예측에서 우리가 발견할 수 있는 다른 함정은, 그 예언자들 대부분이 남자들이라는 데 있다. 아까 언급한 켈리의 글에 의하면, 패티 마스가 발견한 또 다른 사실은, 인간 두뇌 업로딩으로 기계적 영생에 이르는 데 관심을 두는 그녀의 동료들은 대부분 남자라는 것이다. 그래서 그녀는, 여성은 임신과 출산을 거치면서 실질적인 생물학적 방법을 경험하기 때문에, 그런 기계적 영생에 관심을 두지 않는 것이라는 가설을 세웠다.

이 가설이 학술적으로 검증된 적은 없으므로 진위를 논할 수는 없지만, 매우 흥미로운 관점이다. 남녀 간의 생물적, 심리적 차이가 존재한다는 것은 언제나 육감적으로 느낄 수 있다. 예를 들면, 공상과학물의 주요 소비층이 남자인 것도 그냥 지나칠 수 없는 포인트다. 지난 칼럼에서도 잠깐 언급했던 스티브 핑커의 의견도 이와 관련된 관점을 보여준다. 그는 파괴적 인공 지능 디스토피아는 지능의 개념에 편협한 우두머리 수컷(alpha-male) 심리를 투영한 것에 불과하다고 지적했었다.

핑커는 그의 책 ’우리 본성의 선한 천사(The Better Angels of Our Nature)’에서, 인류 문명의 폭력성이 감소하게 되는 주요한 원인 중 하나로 ‘여성화’를 들고 있다. 그는 여성 친화적 가치들이 폭력을 줄이는 이유를, ‘남자는 여자에 대한 성적 접근성을 놓고 서로 경쟁하려는 동기가 크지만, 여자는 자식을 고아로 만들지도 모르는 그런 위험에서 물러나 있으려는 동기가 크다’는 남녀의 생물학적 차이로 설명하고 있다. 남녀의 진화 심리학적 차이가 미래를 보는 관점뿐 아니라 실제로 미래가 만들어져 가는 방향성도 (예를 들어 핑커가 주장하듯 폭력성이 감소하는 방향으로) 바뀌고 있을지 모른다.

이제 기술 예찬론자들의 기술 지상주의적 미래 예측에서 조금 벗어나 보자. 한 논문(Brier, 2005)에서 미래학자들의 설문 조사를 한 결과에 따르면, 미래학 관점에서 보는 미래 시점은 관심 주제에 따라 크게 변동되기는 하지만, 일반적으로 대략 향후 20년에서 50년 사이로 가정된다. 앞서 언급한 미래 시점들과 큰 차이가 없다.

하지만 기술의 발전 추세를 근간으로 하는 기술론적 미래 예측과는 그 관점이 다르다. 여기서 중요한 것은 우리가 ‘관심’을 두는 미래의 시점이다. 우리가 미래를 걱정하는 것은 우리 세대가 아니라 다음 세대의 시대, 즉, 향후 20년에서 50년의 사회 변화인 것이다. 우리의 관심이 바로 우리 자식들에게 쏠려있듯, 미래에 대한 관심은 우리 자식들의 시대에 대한 관심이다. 기술론자의 미래 예측 시점이 비슷하게 수렴하는 이유도 바로 그런 내재된 본능적 인간성의 발현일지도 모르겠다.

하지만 기술 유토피아(또는 디스토피아) 시나리오가 꼭 다음 세대를 준비하는 건설적인 개념은 아닌 것 같다. 커즈와일은 그가 예언한 (그리고 그가 97세가 되는) 2045년, 특이점의 순간을 보기 위해 매일 150여 알의 노화방지제, 비타민 등을 먹으며 건강을 관리하고 있다고 한다. 생물학의 한계를 벗어난 새로운 형태의 인간 2.0으로 업그레이드된 기계적 영생의 삶을 기대하는 기술 예찬론자들은 많다.

이런 트랜스휴머니즘(Transhumanism), 엑스트로피아니즘(Extropianism) 같은 기술-이즘이 우리에게 의미하는 것이 무엇일까. 니체가 신이 죽었다고 선언한 이래, 새롭게 부활한 기술 신을 받드는 21세기 신흥 종교와 다를 바 없지 않은가? 그럼 기계적 영생의 삶을 살게 된 인간 2.0들은 니체가 말한 위버멘쉬의 21세기 버전인가? 이런 특이점 주의를 기독교에서 말하는 ‘휴거’에 빗대, ’괴짜들의 휴거(the Rapture of the nerds)’라고 냉소적으로 표현하기도 한다. 이 표현의 출처로 알려지기도 한-본인은 아니라지만- 과학 소설가 켄 매클리언(Ken MacLeon)은, 오히려 인간 본질에 충실했던 전통적 종교와는 달리 이런 기술 예찬론자들이 실은 더 반휴머니즘적이라고 비판한다.