샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 인공지능(AI)의 잠재적 위험에 대응하기 위한 국제 공조를 촉구했다. 경쟁 관계에 있는 두 AI 기업 수장이 유엔 안전보장이사회에 함께 참석해 AI 안전 문제를 논의한 것은 이례적이다.
24일 두 CEO는 유엔 총회가 열린 미국 뉴욕에서 개최된 안보리 회의에 참석해 AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다고 강조했다.
정부와 기업이 AI의 미래를 좌우할 핵심 결정 과정에 공동으로 참여해야 한다는 주장이다.
샘 알트먼 CEO는 "서로 경쟁하고 때로는 관계가 좋지 않은 국가들도 강력한 신기술 앞에서 공동의 이익과 공공선을 위해 협력한 사례가 있다"며 "AI 역시 그런 경우가 되어야 한다"고 말했다. 이어 AI 개발 속도를 늦춰야 한다는 주장과 위험을 과소평가하는 견해 사이에서 현실적 접근이 필요하다고 밝혔다.
그는 AI 관련 사고를 신속히 보고하고, 국제 사회가 안전장치와 감독 기준에 합의해야 한다고 강조했다. 샘 알트먼 CEO는 "무엇이 좋은 증거이고, 좋은 안전장치이며, 좋은 감독인지 세계 무대에서 합의할 수 있다면 모두에게 더 나은 결과가 될 것"이라며 "우리가 모든 답을 알고 있는 것은 아니며, 더 나은 아이디어를 받아들일 준비가 돼 있다"고 말했다.
다리오 아모데이 CEO는 화상 발언을 통해 AI가 과학과 의료 분야에 상당한 혜택을 가져올 수 있지만, 동시에 재앙적 결과를 초래할 위험도 있다고 지적했다. 그는 테러 조직이 AI를 활용해 치명적 생물무기를 개발할 가능성과 AI 모델이 개발자의 통제 범위를 벗어날 가능성을 언급하며 국제 안전 기준 마련을 촉구했다.
다리오 아모데이 CEO는 "이 자리에 있는 사람들이 가진 차이에도 불구하고, 우리는 동시에 제시된 세계적 기회와 위협에 맞서기 위해 차이를 넘어야 한다"며 "어떤 지도자나 기업, 국가도 이를 혼자 관리할 수 없다"고 말했다.
AI의 실존적 위험을 둘러싼 논쟁은 최근 더 확산되고 있다. 다리오 아모데이 CEO는 이달 초 공개한 장문의 글에서 가장 고도화된 AI 시스템의 개발 속도를 조절하고, 연구자들이 잠재적 위협을 충분히 파악할 시간을 확보해야 한다고 주장했다.
이 견해는 샘 알트먼 CEO와 일론 머스크 등의 지지를 받았으며 미국 의회 내 AI 안전 규제 논의에도 영향을 미쳤다.
안토니우 구테흐스 유엔 사무총장도 개회사에서 최첨단 AI 모델인 프런티어 AI를 둘러싼 국가 간 협력 필요성을 강조했다. 그는 국제적 조율과 안전 기준 마련을 지원하는 데 유엔이 역할을 할 수 있다고 밝혔다.
미중 정상회담을 앞두고 열린 이번 회의에서는 AI를 둘러싼 국제 경쟁과 협력 문제도 부각됐다. 미국과 중국은 AI 분야의 세계적 주도권을 놓고 경쟁하는 동시에, 양국 간 AI 대화 채널을 구축하는 방안을 논의해 온 것으로 알려졌다. AI 안전과 규제, 경제적 파급효과는 정상회담의 주요 의제 중 하나가 될 전망이다.
이번 회의에는 조슈아 벤지오 몬트리올대 교수도 유엔 독립 국제 AI 과학패널 공동의장 자격으로 회의에 참석했다. 벤지오 교수는 AI의 급속한 고도화가 국제 평화와 안보에 미칠 영향을 점검하고, 과학적 근거에 기반한 국제 거버넌스 체계를 마련해야 한다는 필요성을 제기했다.
관련기사
오픈소스 AI 플랫폼 허깅페이스의 클레망 들랑그 CEO도 참석해 AI 에이전트 공격을 받은 사례를 소개하면서도 개별 사고를 이유로 공포 중심의 대응에 나서서는 안 된다고 경고했다.
클레망 들랑그 CEO는 "공포에 기반한 서사는 이처럼 근본적이고 역량을 강화하는 기술의 미래에 대한 올바른 결정을 내리거나 대중의 동의를 얻는 방법이 아니다"라며 "우리는 AI의 공격을 받았지만 더 중요하게는 AI로 방어했다"고 말했다.
