인공지능, 문제는 바둑이 아니다

이세돌과 알파고의 시합이 화제다. 시합이 시작되기 전에는 이세돌의 승리를 의심하는 사람이 없었다. 하지만 알파고가 모두의 예상의 뒤엎고 3연승을 거두자 사람들은 집단적인 멘붕에 빠졌다. 이세돌이 한 판도 이기지 못할 거라는 성급한 예상이 쏟아졌다. 눈물겨운 사투 끝에 이세돌이 4번째 판을 승리하자 멘붕이 감격으로 바뀌었다.

실제로 눈물을 글썽이는 사람도 있었다. 이 글을 쓰는 시점에서 아직 5국은 두어지지 않았지만 남은 대국의 결과는 큰 의미가 없게 되었다. 세상의 관심이 이미 승부가 아니라 이세돌이 써나가는 휴먼드라마로 옮겨졌기 때문이다.

인류 역사에 하나의 이정표로 기록될 이번 시합을 관전하면서 사람들은 이세돌이라는 사내와 바둑을 좋아하게 되었다. 그리고 인공지능이라는 신세계가 더 이상 공상과학의 영역에 머무는 것이 아니라는 사실도 깨닫게 되었다. 이세돌이 처음 3판을 졌을 때 사람들이 느낀 울분과 낙심, 좌절과 분노의 기저에는 인공지능이라는 낯선 존재에 대한 무지와 두려움이 깔려 있었다. 그래서 이세돌이 단 한 판이라도 승리를 거둬서 인공지능의 불완전함을 드러내 주기를 열망했다.

이세돌은 그런 열망에 부응했고, 환하게 미소를 지었고, 멋지게 인터뷰를 했다.

하지만 사람들의 머리 위를 배회하는 인공지능이라는 불안한 유령은 사라지지 않았다. 사실 알파고가 돌을 거두었을 때 느낀 짜릿한 전율과, 알파고에 대한 이물감이나 두려움은 같은 뿌리에서 올라오는 두 개의 감정이다. 사람들은 일단 바둑에 열광하고 있지만, 의식과 무의식의 경계 어디쯤에서는 진짜 문제가 바둑이 아니라는 사실을 알고 있는 것이다.

왼쪽부터 이세돌 9단, 데미스 하사비스 구글 딥마인드 CEO, 데이비드 실버 박사

알파고가 놀라운 점은 바둑실력이 아니라 (사람이 일일이 가르쳐주지 않아도) 스스로 보고 배우는 능력이다. 무엇을 배울지 결정하는 것은 사람이지만 얼마나 빠른 속도로 어디까지 배울지 정하는 것은 알파고 자신이다. 그래서 알파고의 배후에 존재하는 인공지능은 벽돌 깨기를 보여주면 벽돌 깨기의 달인이 되고, 바둑 기보를 보여주면 바둑의 달인이 된다. 스타크래프트를 보여주면 스타크래프트의 달인이 될 것이고, 충분히 많은 의학 자료를 보여주면 진료의 달인이 될 것이다. 범용 인공지능의 가능성이 열린 것이다. 그런 인공지능에게 사람을 죽이는 모습을 보여주면 사람을 죽이는 달인이 탄생한다.

우리가 공상과학소설의 영역으로 치부하던 상상이 현실이 되었다. 상상으로만 존재하던 이런 기이한 능력은 우선 의료서비스 개발이나 경제 분석 등 경제적 이익을 추구하는데 활용될 것이다. 하지만 이런 기술이 군사정치적 목적으로 활용되리라는 점은 자명하다. 알파고가 처음 3판의 바둑을 두면서 이세돌과 그의 팬들을 희망 고문한 것처럼, 적군을 마음대로 가지고 노는 능력을 갖춘 인공지능 무기를 개발하는 것은 패권국가의 지도자들에게 거부할 수 없는 달콤한 유혹이기 때문이다.

스스로 판단하고 행동하는 인공지능 무기가 현실화 되면 한 국가가 다른 국가를 경제적으로 혹은 군사적으로 철저하게 정복하는 것이 가능해진다. 사회적으로는 인공지능이라는 생산수단을 손에 쥔 소수의 부자가 다수의 인간을 지배하는 것도 가능해지고, 인류 전체의 파멸을 불러오는 것도 얼마든지 가능하다. 그래서 스티브 호킹이나 노엄 촘스키 같은 세계적 석학은 물론, 일론 머스크나 스티브 워즈니악 같은 사람들도 인공지능 무기를 개발하는 것을 금지하는 문서에 적극적으로 서명을 했다.

“군사적 강국 중에서 어느 하나가 인공지능 무기를 개발하면, 세계적인 무기개발 경쟁이 촉발되는 것은 불가피하다. 테크놀로지가 그 경로를 밟으면 끝에 무엇이 있을 지는 명백하다.” 그들이 서명한 문서는 이렇게 말한다. “자동화된 무기는 핵무기와 달리 비싸거나 구하기 어려운 원재료를 필요로 하지 않는다. 그래서 일단 개발이 시작되면 사방에 널린 값싼 무기로 자리 잡을 것이고, 그리하여 모든 군사적 강대국들이 그런 무기를 너도나도 대량생산하게 될 것이다.”

상황이 이렇기 때문에 우리가 두려워해야 하는 것은 인간의 능력을 뛰어넘는 인공지능이 아니라, 인공지능을 통제하는 사람들의 비민주성이다. 기계와 사람의 관계가 아니라 사람과 사람의 관계가 문제라는 뜻이다. 전기밥솥은 그 자체로 인간에게 위협을 주지 않는다. 하지만 누군가 그것으로 다른 사람의 뒤통수를 내려치면 살인무기가 된다. 그래서 인간은 기계에게 정복될 것인가, 라고 묻는 것은 올바른 질문이 아니다. 인공지능이 민주적인 방식으로 활용되고 있는가, 라고 묻는 것이 옳다.

한 공동체의 운명을 좌우할 만한 능력을 가진 인공지능의 개발은 당연히 엄청난 규모의 투자와 노력을 요구한다. 하지만 알파고의 시작은 거대한 자본과 시스템을 가진 구글이 아니었다. 게임을 좋아하는 한 영국 젊은이의 자유분방한 상상이 시작이었다. 구글이 허사비스라는 나무에게 물과 햇빛을 주었다면 씨앗에 싹을 틔운 비옥한 흙은 문화였다. 재능을 가진 젊은이가 마음껏 상상하고 겁 없이 도전할 수 있는 문화 말이다.