벤지오 교수 "AI 위험성 완화 연구 시급"

"AI가 경제·정치·군사 권력 집중…사람이 AI 에이전트 의사결정 통제 못해"

인공지능(AI)이 사회에 미치는 위험을 줄이기 위한 연구가 시급하다는 주장이 나왔다. 

22일 CNBC 등 외신에 따르면 몬트리올대 요슈아 벤지오 교수는 최근 캐나다 몬트리올에서 열린 원 영 월드 서밋(One Young World Summit)에서 이 같은 주장을 제기했다. 

이날 벤지오 교수는 "우리보다 똑똑한 기술을 갖게 될 미래를 상상하는 것은 매우 중요하다"며 "이것이 사회에 어떤 의미를 가질지 생각해야 한다"고 말했다. 

이어 "기계가 곧 인간 수준의 인지 능력을 가질 수 있을 것"이라며 "특히 일반인공지능(AGI)이 인간 지능 뛰어넘는 것을 목표로 하기 때문"이라고 덧붙였다. 

'삼성 AI 포럼 2024'에서 기조 강연을 하고 있는 캐나다 몬트리올대 요슈아 벤지오 교수(사진=삼성전자)

벤지오 교수는 AI 기술이 이미 경제, 정치, 군사 권력 집중을 심화하고 있다고 말했다. 보통 AI 시스템 개발·운영에는 막대한 비용이 든다. 이에 일부 국가와 소수 기업만 AI 개발 과정에 접근할 수 있다. 이 과정에서 경제적 권력이 발생할 수 있으며 결국 민주주의와 지정학적 안전성을 해칠 수 있다는 설명이다. 

그는 "AI가 단순히 기술·경제에만 국한되지 않고 사회·정지 분야에도 영향을 준다"며 "경제 권력의 집중은 시장에 악영향을 주고, 정치적·군사적 권력 집중은 민주주의를 훼손할 수 있을 것"이라고 밝혔다. 그러면서 "이를 막기 위해 신중한 연구가 필요하다"고 덧붙였다. 

벤지오 교수는 AI 위험성 완화 연구가 당장 효과를 나타내지는 못할 것이라고 내다봤다. 인간이 AI 위험성을 완벽히 인지하지 못한다는 이유에서다. 

벤지오 교수는 "인간은 AI 시스템 위험을 완전히 제어하는 방법도 모른다"며 "특히 AI가 자율적 의사결정을 할 경우 인간 통제를 벗어날 가능성이 있다는 점도 무시할 수 없다"고 강조했다. 

이어 "AI 발전 속도에 비해 규제, 윤리적 기준, 책임 소재 같은 사회적 장치가 충분치 않다"며 "5년 내 연구 효과를 볼 수 있는 건 불가하다"고 전망했다.

벤지오 교수는 각 정부가 문제 해결에 먼저 나서야 한다고 주장했다. 그는 "정부는 AI가 어디에 활용되고 있는지, 구체적으로 어떤 시스템인지 알아야 한다"며 "이런 정보를 언제든 볼 수 있도록 기업들에게 AI 시스템 등록 규제를 강제로라도 시행해야 한다"고 당부했다. 

벤지오 교수는 현재 전 세계 기업들이 AGI 개발에 열을 올리는 것에 대해 우려도 표했다. 

그는 "AGI를 가장 먼저 개발하는 국가·기업이 시장을 지배할 것이라는 믿음이 있다"며 "이것은 단순한 경쟁이 아닌 '위험한 경쟁'"이라고 주장했다.

이 외에도 그는 AI 개발사의 책임감 있는 행동, 일반 AI 사용자의 윤리적 기술 활용 등도 필요하다고 당부했다.

벤지오 교수는 "AI 장점과 위험을 모두 이해하는 사람들이 충분히 필요하다"며 "기술과 경제, 정치 모두를 아우르는 노력이 절실하다"고 말했다.