벤지오 "한국 반도체, 안전한 AI 핵심 인프라...정책·과학 병행해야"

'AI 서울 2026' 축사서 통제 불능 위험 경고…규제·모니터링 강제성 확보 제언

인류의 안녕을 위해 인공지능(AI) 기술 발전 속도에 맞춘 안전장치 마련이 시급하다는 목소리가 나왔다. 특히 한국의 반도체 인프라가 안전한 AI를 구현하기 위한 글로벌 허브로 활용될 수 있다는 구상이 제기됐다.

요슈아 벤지오 몬트리올대학교 교수는 30일 서울 강남구 코엑스에서 개막한 'AI 서울 2026' 콘퍼런스 영상 축사에서 이같이 밝혔다.

딥러닝 분야 세계 최고 권위자인 벤지오 교수는 AI가 인류의 미래에 중대한 위험을 초래할 수 있다고 경고하며 안전성 확보를 최우선 과제로 꼽았다.

그는 "현재 AI 기술 발전 속도가 안전장치를 마련하는 속도를 앞지르고 있다"며 "이를 해결하기 위해 정책과 과학이라는 두 가지 전선에서 집단적인 행동이 필요하다"고 역설했다.

벤지오 교수는 먼저 정책적 측면에서 "국내법 제정과 국제 조약 체결을 통해 더욱 강력하고 필수적인 규제와 모니터링을 보장해야 한다"고 제언했다. 기업의 자율적 노력만으로는 부족하며 강제성 있는 제도가 뒷받침돼야 한다는 것이다.

요슈아 벤지오 몬트리올대학교 교수가 30일 서울 강남구 코엑스에서 개막한 'AI 서울 2026' 콘퍼런스에서 영상 축사를 하고 있다.

안전한 AI 설계에 관한 과학·기술적 해법도 제시했다. 벤지오 교수는 "뛰어난 성능을 발휘하는 동시에 인간에게 해를 끼치지 않도록 AI를 설계하는 방법을 아직 완벽히 이해하지 못했다"며 "인간이 항상 AI 모델에 대한 통제권을 유지하는 것이 핵심"이라고 말했다.

그는 최근 이 난제를 해결하기 위해 AI 안전을 위한 비영리 조직 '로우제로(LawZero)'를 설립했다.

벤지오 교수는 이 지점에서 한국과 서울의 역할에 큰 기대를 걸었다. 그는 "서울은 글로벌 AI 협력을 위한 의미 있는 허브가 될 잠재력이 있다"고 평가했다. 그 근거로 한국의 우수한 연구 중심 대학들과 강력한 AI 알고리즘 산업 연구 역량을 꼽았다.

벤지오 교수는 "한국은 모든 AI 발전의 배후에 있는 하드웨어, 즉 메모리 기술과 고성능 반도체 칩 분야의 리더"라며 한국의 반도체 경쟁력이 안전한 AI 경로를 개척하는 데 결정적인 기여를 할 수 있다고 전망했다.

끝으로 그는 자신이 공동 의장을 맡았던 제1회 '국제 AI 안전성 보고서'의 결론을 인용하며 "범용 AI의 미래는 불확실하기에 매우 긍정적인 결과와 매우 부정적인 결과 모두가 가능하다"고 강조했다.