"AI 위협 걱정"…노벨물리학상 수상자들, 왜 경고했나

‘인공지능(AI) 대부’로 꼽히는 제프리 힌튼 토론토대학 교수가 존 홉필드 프린스턴대학 교수와 공동으로 2024년 노벨물리학상을 수상했다. 하지만 제프리 힌튼은 노벨상 수상자로 선정된 직후 또 다시 ‘AI의 위협’에 대해 경고해 눈길을 끌었다.

공동 수상자인 존 홉필드 교수 역시 AI가 방대한 정보망과 연결되면서 초래할 부작용에 대해 우려를 나타냈다.

월스트리트저널을 비롯한 외신들에 따르면 힌튼은 8일(현지시간) 노벨상위원회와 인터뷰에서 "우리 보다 더 똑똑한 시스템이 초래할 결과에 대해 우려한다"고 말했다. 하지만 그는 자신의 연구 작업에 대해선 "똑 같은 작업을 할 것"이라고 강조했다.

힌튼은 1980년대 중반 다층 퍼셉트론과 역전파 알고리즘을 제안하면서 요즘 우리가 알고 있는 AI 연구의 기반을 닦았다. 역전파법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이 됐다.

제프리 힌튼은 이날 노벨물리학상 수상자로 선정된 직후 워싱턴포스트와 인터뷰에서도 “AI가 초래할 수 있는 수 많은 나쁜 결과에 대해 걱정해야만 한다”고 강조했다.

이날 힌튼은 “(AI는) 여러 가치 측면에서 놀라우며, 엄청난 생산성 향상을 가져올 것이다”면서도 “인간보다 더 똑똑해질 경우 초래할 결과에 대해 우려하고 있다”고 덧붙였다.

그는 또 “어떤 물건들이 인간보다 더 똑똑해지는 상황을 경험한 적이 없다”고도 말했다.

인터뷰 당시 힌튼은 캘리포니아의 한 호텔에 묵고 있었다. 그는 노벨상 수상자로 선정된 직후 가진 워싱턴포스트와 인터뷰에서 “MRI 예약을 해 놨는데, 취소해야 할 것 같다”고 밝히기도 했다.

힌튼이 ‘AI의 위협’에 대해 경고한 것은 이번이 처음은 아니다. 지난 해 5월 힌튼은 10년 동안 몸 담았던 구글을 떠나면서 “AI가 인류에겐 존재론적 위협이 되고 있다”고 말해 많은 사람들을 깜짝 놀라게 했다.

당시에도 힌튼은 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다.

힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다.

노벨물리학상 공동 수상자인 존 홉필드도 AI에 대한 우려에 동참했다. 하지만 홉필드 교수는 AI 자체보다는 방대한 정보와 연결된 상황에 대해 경계심을 나타냈다.

관련기사