지적되는 AI 위험성은 사실 인간의 문제다

[이균성의 溫技] 논리 비약의 혼란

‘AI 대부’로 불린다는 제프리 힌튼 캐나다 토론토대 교수가 화제의 인물이 됐다. 10년 넘게 다닌 회사인 구글을 그만두면서까지 인공지능(AI)의 위험성을 경고하고 나섰기 때문이다. 그의 발언이 주목을 끄는 것은 두 가지 때문이다. 먼저 그가 세계적으로 따져도 명성이 자자한 AI 대가라는 사실이다. 저명성 덕분이다. 또 다니던 회사까지 그만 두기로 해 발언에 진정성이 실렸다고 봐줄 수 있다.

힌튼은 특히 그 점을 강조했다. AI 개발에 사력을 다하고 있는 소속 회사를 벗어남으로써 더 자유롭게 AI의 위험에 대해 발언하고 싶었다는 것이다. 챗GPT 출시 이후 AI 위험성을 강조하는 목소리는 계속돼왔다. 테슬라의 일론 머스크가 대표적인 인물이다. 심지어 챗GPT를 개발한 오픈AI의 최고경영자(CEO)인 샘 알트먼도 기회 있을 때마다 위험성을 지적하며 사회적 논의를 펼치자고 말해왔다.

보통 사람들로서는 무척 헷갈리는 상황이 됐다. 한편에서는 ‘AI 개발에 뒤처지면 죽는다’며 규제 완화와 정부 지원을 주장하고, 다른 한편에서는 ‘AI를 통제할 수 있다는 확신이 설 때까지 기술 개발 속도를 늦추자’고 외친다. 누가 옳은가. 이 질문은 부질없다. 논쟁을 해봐야 신(神)의 유무를 따지는 것만큼 헛심만 팽길 것이기 때문이다. 양쪽은 결국 다투면서 각자 믿는 대로 행동할 것이 자명하다.

사진=지디넷닷컴

답이 없을 그 논쟁보다 더 궁금한 것은 힐튼 등의 속도조절론자가 AI에 대해 진짜로 두려워하는 바가 무엇인지다. 여러 기사를 토대로 대충 추려보면 ①거짓말 ②베끼기 ③사이버공격 ④일자리 ⑤살인로봇 ⑥AI의 인간 지배 등이다. 재미있는 것은 ⑥을 제외하면 나머지는 모두 현존 인류가 가지는 문제라는 점이다. 인간문제인 만큼 개발 중단이 아니라 더 나은 개발로 보완 가능하다는 뜻도 된다.

거짓말은 여러 종류가 있고 기능도 다양하다. 선한 거짓도 있고, 즐겁기 위해 꾸며낸 이야기도 있으며, 교육을 위해 지어낸 스토리도 있다. 그 반면에 남을 속여 이익 보려는 사기도 있고, 권력을 획득하려고 조장한 음모도 있다. AI가 있기 전에 인간의 이야기는 사실과 거짓으로 버무려졌고 AI는 그것을 배웠다. AI가 있든 없든 인간은 어떤 정보나 이야기를 취할지 버릴지 노상 선택하면서 살아왔다.

베끼기는 학습의 기본이다. 배움이 인간 본성이라면 베끼기도 그렇다. 창작도 사실은 베끼기로부터 출발한다. 그럼에도 상업적 목적으로 베끼는 행위를 현행법으로 금지시키는 것은 저작권자의 창작 의지를 보호해주기 위함이다. AI가 무엇인가를 베낀다면 그 자체로 죄는 아니다. 그 행위로 저작권을 상업적으로 침해하거나 그로 인한 손실을 누군가 이득으로 취한다면 그건 죄다. 그를 처벌하면 된다.

사이버공격은 굳이 AI를 거론할 필요조차 없다. 해커가 AI를 이용할 수 없을 때부터 사이버공격은 세계적으로 난무했다. 물론 인간이 그렇게 한 것이다. AI를 이용해 해커의 공격이 더 높아질 수 있다고 치자. 그것이 AI 개발 속도조절의 이유가 될 수는 없다. 오히려 사이버공격에 대비하는 AI를 더 잘 개발할 필요가 커졌다고 할 수 있다. 갑자기 사이버공격자들이 착해지기로 마음을 바꾸지 않는다면.

일자리는 큰 고민거리다. AI가 생산성을 높인다면 기업은 그만큼 사람의 일자리를 줄이려 할 게 분명하기 때문이다. 그렇다고 기술이 있는데 모든 기업에 낮은 생산성을 강요할 수도 없지 않은가. 사라진 일자리만큼 새로운 일자리가 생겨난다면 다행이지만 그에 맞게 노동 구조를 재편하는 것도 쉽지 않은 일이다. 노동시간 단축, 일자리 나눔 및 재교육 등 좀 더 전환적인 사회적 논의가 필요해졌다.

살인로봇 또한 사이버공격과 비슷한 범주다. 적대적인 인간 사회가 문제의 본질이지 AI의 잘못이 아니란 뜻이다. AI 때문에 더 위험해질 가능성보다 이념과 종교 등으로 인한 인간 집단 사이의 대치로 인해 위험해질 가능성이 훨씬 더 크다고 보는 게 합리적인 생각이다. 진짜 살인로봇이 두렵다면 이미 있는 군사 장비부터 줄이도록 노력해야 옳다. 싸움닭들이 설치는 정치를 바꾸려 하는 게 낫다.

AI의 인간 지배에 대해서는 현재로서는 별로 할 말이 없다. 그런 시절이 오지 않는다고 장담하는 바는 아니나 아직 그 주제는 소설이나 영화의 영역이라 본다. 소설이나 영화를 보고 즐기든 경각심을 갖든 그건 각자의 자유다. 다만 아직 현실 기술이나 산업 혹은 정책에 관한 주제는 아니라는 뜻이다. 결국 인간의 일인 ① ② ③ ④ ⑤를 느닷없이 ⑥의 AI 문제로 비약시키려는 어떤 의도엔 문제가 있다.