요슈아 벤지오, AI 안전 '로우제로' 연구소 설립…"인류 전체 보호할 것"

스카이프·FLI서 3천만 달러 기부금 유치…AI 안전 기준 정립해 '기술 독주' 견제

인공지능(AI) 연구의 거장 요슈아 벤지오가 기술의 위험성과 불확실성에 선제적으로 대응하기 위한 비영리 AI 연구소를 설립했다.

4일 테크크런치에 따르면 요슈아 벤지오 몬트리올 대학교 교수는 이날 파이낸셜타임스를 통해 '로우제로(LawZero)'라는 AI 안전 연구소 설립 사실을 공개했다. 이 연구소의 초기 자금은 얀 탈린 스카이프 공동 설립자, 에릭 슈미트 전 구글 최고경영자(CEO), 오픈 필랜스로피, 미래의 삶 연구소(FLI) 등에서 기부 형태로 조달했으며 총액은 3천만 달러(한화 약 300억원) 규모다.

연구소 이름인 '로우제로'는 SF 소설 작가인 아이작 아시모프가 창안한 '로봇공학 제로 법칙'에서 차용한 것으로, 인간 전체의 이익을 최우선으로 한다는 철학적 방향성을 내포하고 있다. '제로 법칙'은 로봇이 개별 인간이 아닌 인류 전체의 보호를 우선시해야 한다는 원칙이다.

요슈아 벤지오 (사진=삼성전자)

벤지오 교수는 '현대 AI의 대부' 중 한 명으로 꼽히며 최근 들어 AI 안전성 담론에 있어 대표적 목소리를 내고 있다. 그는 미국 캘리포니아주에서 발의된 AI 안전 법안 'SB 1047'에 공개적으로 찬성하며 기술 규제 필요성을 강조해왔다.

해당 법안은 고위험 AI 시스템의 개발·배포에 있어 사전 통제를 강화하는 내용으로, 기술 업계 일각에서는 혁신을 저해한다는 반발도 나온 바 있다. 그럼에도 그는 이 법안이 '재앙적 시나리오'를 방지하는 최소한의 안전장치라고 평가해 왔다.

요슈아 벤지오 교수는 파이낸셜타임스 인터뷰에서 "오픈AI와 구글이 안전성보다 기술 진보 속도를 우선시하고 있다"며 "대형 기술 기업 내부에서는 이해충돌로 인해 구조적으로 안전이 뒷전으로 밀릴 수밖에 없다"고 말했다.