"AI, 5년 뒤 사람보다 더 똑똑해진다"

"5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다."

토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 "AI가 예상보다 더 똑똑할 수 있다"며 "사람은 이에 대한 경각심을 가져야 한다"고 강조했다.

제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.

토론토대 제프리 힌튼 교수는 AI 추론 능력이 사람을 뛰어넘을 수 있다고 주장했다. (사진=CBS)

힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 "일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다"고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다.

그는 "반면 AI는 말 그대로 기계"라며 "매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다"고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.

제프리 힌튼 교수는 "AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것"이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 "이를 통해 AI가 사람을 조종할 수 있을 것"이라고 강조했다. 힌튼 교수는 "AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다"며 "사람을 조종하고 설득하는 데 매우 능숙할 것"이라고 덧붙였다.

힌튼 교수는 AI가 향후 자의식까지 가질 수 있다고 말했다. (사진=CBS)

제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.

힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 "해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것"이라고 지적했다. 제프리 힌튼은 "지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때"라고 강조했다.