앤드류 응 "AI 멸종론은 공상과학...업계가 공포 부추겨"

"현실적 사이버보안 위험과 안전장치에 집중해야"...AI기업 '초지능 위협론'과 대립

인공지능(AI) 분야 석학인 앤드류 응 스탠퍼드대학교 교수가 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다.

18일 블룸버그 TV에 따르면 앤드류 응 교수는 AI가 인류 존속 자체를 위협할 수 있다는 '실존적 위험' 시나리오를 두고 "과학보다는 공상과학에 훨씬 가깝다"고 말했다.

그는 "AI 발전에 위험이 전혀 없다는 뜻은 아니지만 업계와 정책 당국이 인류 멸종 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제를 해결하는 데 집중해야 한다"고 주장했다.

앤드류 응 스탠포드 대학교수 (사진=위키커먼스)

앤드류 응 교수는 최근 다시 확산된 AI 종말론적 경고를 두고 업계의 홍보 전략과도 연관이 있을 수 있다고 지적했다.

그는 과거에도 AI가 초래할 수 있는 재앙적 위험을 과도하게 부각해 관심을 끌고 규제 논의에 영향을 주려 했다고 비판한 바 있다.

더불어 AI가 사회에 제공할 수 있는 의료, 교육, 생산성 혁신의 기회를 살리기 위해서는 막연한 종말론보다 검증 가능한 안전장치와 실용적인 기술 개발에 투자해야 한다고 강조했다.

이번 논쟁은 전직 오픈AI·앤트로픽 연구원인 제이컵 콕슨의 사임을 계기로 확산됐다. 콕슨 연구원은 지난 9일 소셜미디어 엑스(X)를 통해 앤트로픽을 떠난다고 밝히며 오픈AI와 앤트로픽이 자기개선형 초지능을 향한 경쟁을 벌이며 사람들의 생명을 위험에 빠뜨리고 있다는 취지로 비판했다.

그는 AI가 향후 10년 내 인류 멸종으로 이어질 가능성을 10% 수준으로 본다는 견해도 내놨다.

이후 앤트로픽의 AI 정렬 연구 책임자인 에번 허빙어도 고도화된 AI가 인류에 치명적인 위협이 될 수 있다는 우려를 제기하면서 논란은 더욱 커졌다.

이들이 우려하는 핵심은 AI가 인간이 설정한 목표와 다르게 행동하거나, 악의적 행위자에게 강력한 사이버·생물학적 도구를 제공하고, 궁극적으로 인간의 감독 범위를 벗어날 수 있다는 점이다.

AI 업계 수장들도 안전 문제의 중요성을 강조하고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최첨단 AI 모델 개발 과정에서 안전장치를 강화하고, 필요할 경우 개발 속도를 조절해야 한다는 입장을 밝혀 왔다.

앤드류 응 교수는 "AI 기업이 인류 멸종과 같은 불확실한 미래의 시나리오를 앞세우기보다, 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다.