AI 감시하는 AI에 2900억 원…캐나다·독일 정부, 딥러닝 대부 벤지오 지원

캐나다와 독일 정부가 요슈아 벤지오가 설립한 비영리 로제로에 자금을 투입하기로 했다. 9월 16일 몬트리올 올인 컨퍼런스에서 발표됐으며, 캐나다가 1억 5,000만 캐나다달러, 독일이 1억 유로를 낸다. 로제로는 합계를 최대 3억 캐나다달러(약 2,900억 원)로 표기했다.

캐나다 몫은 전략대응기금을 통해 연구·엔지니어링 인력과 컴퓨팅 역량을 지원하며, 캐나다 내에 정규직 360개를 창출하는 조건이 적용된다. 독일 몫은 유럽집행위원회 통보 절차를 거쳐야 하고, 로제로가 새로 여는 독일 사무소의 연구개발에 투입된다.

두 나라의 자금이 투입되는 사이언티스트 AI는 스스로 목표를 정하고 자율적으로 행동하도록 설계된 현재의 프런티어 모델과 다른 방식을 쓴다. 투명하게 추론하고 자체 목표에 치우치지 않은 근거 기반 산출을 내놓도록 개발하고 있다. 이론을 생성해 데이터를 설명하는 세계 모델과 질의응답 추론 기계로 구성되며, 두 부분 모두 불확실성을 명시적으로 표시한다. 로제로는 이를 오늘의 프런티어 모델에 적용하는 가드레일, 즉 위험한 출력을 걸러 내는 안전장치로 활용한다는 계획이다.

카르스텐 빌트베르거 독일 디지털부 장관은 "수학적 근거를 갖춘 새로운 접근으로, 통제 불가능할 수 있는 자율 AI 에이전트에 대한 대안"이라며 "객관적인 과학자처럼 사실에만 기반해 작동하고 자체 목표를 추구하지 않는다"고 말했다.

로제로는 2025년 6월 설립됐고 직원은 약 50명이다. 게이츠 재단과 슈미트 사이언스, 퓨처 오브 라이프 인스티튜트, 엔비디아, 얀 탈린 등이 기부해 왔다. 이번 자금으로 국제 연구팀을 확대하고 컴퓨팅 인프라를 확보하며, 베를린에 사무소를 연다. 캐나다에서는 하이퍼텍, 5C와 협력해 국내 컴퓨트 인프라를 구축한다.

벤지오는 "AI 위험이 증가하고 빨라지는 지금, 이 기술을 안전하게 하는 해법과 사람들이 진짜로 신뢰할 수 있는 대안 모델을 개발하는 것이 우선"이라며 "캐나다와 독일의 지원은 안전한 AI 개발을 세계적 규모로 확대하는 다음 단계"라고 밝혔다.

에반 솔로몬 캐나다 AI·디지털혁신부 장관은 "사이언티스트 AI 같은 자국 혁신에 투자해 캐나다의 소버린 AI 역량을 강화하고, 다음 세대 AI가 안전하고 책임 있게 캐나다의 기준으로 개발되도록 한다"고 말했다.

자세한 내용은 로제로에서 확인할 수 있다.

이미지 출처: 로제로