중국, AI 감속 대신 안전장치 강화…미국발 '속도조절론'과 다른 길

미국 글로벌 감속 제안에 자체 안전체계로 대응…에이전트·자기개선 등 새 위험 반영

인공지능(AI) 안전을 둘러싸고 미국과 중국이 서로 다른 접근법을 택했다. 미국 AI 업계에서 중국까지 참여해 개발 속도를 조절하자는 주장이 나온 반면 중국은 자체 안전장치를 강화하면서 기술 개발은 이어가고 있다.

20일(현지시간) 가디언에 따르면 중국은 최근 미국 AI 업계에서 제기된 '속도조절론'에 선을 그었다. AI가 사람의 통제를 벗어날 가능성 등 위험에는 공감하면서도 개발 속도까지 함께 늦추자는 안은 받아들이지 않았다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 프런티어 AI가 빠르게 발전하면서 통제를 잃을 위험이 커지고 있다며 중국을 포함한 전 세계가 개발 속도를 조절하는 방안을 제안했다.

미국과 중국이 AI 안전과 개발 속도를 놓고 서로 다른 접근법을 제시하고 있다. (사진=챗GPT 활용)

다만 중국과 안전 문제에서 협력하면서도 첨단 AI 칩과 제조장비에 대한 대중국 수출통제는 유지해야 한다고 주장했다. 미국을 비롯한 민주주의 국가가 중국 등 권위주의 국가보다 AI 기술에서 가능한 한 큰 우위를 유지해야 한다는 입장도 밝혔다.

중국은 이에 반발했다. 중국 외교부는 "공포 조장과 대립, 악성 경쟁은 글로벌 AI 거버넌스 과정을 방해할 뿐"이라고 밝혔다. 가디언은 중국에서 미국의 감속 요구를 현재 기술 우위를 유지하려는 움직임으로 경계하는 시각이 있다고 전했다.

그렇다고 중국이 AI 위험을 외면하는 것은 아니다. 기술 개발을 이어가면서 새롭게 등장하는 위험을 안전 관리 체계에 반영하고 있다.

중국 전국네트워크안전표준화기술위원회는 지난 14일 국가인터넷정보판공실 지도 아래 'AI 안전 거버넌스 프레임워크 3.0'을 발표했다. 2024년 1.0과 지난해 2.0에 이어 AI 기술 변화에 맞춰 세 번째 프레임워크를 내놨다.

새 프레임워크에는 AI 에이전트와 체화형 AI처럼 최근 빠르게 발전한 기술에서 발생할 수 있는 위험이 추가됐다. AI가 사람을 대신해 업무를 수행하면서 가상공간에서 발생한 위험이 현실 세계로 번질 가능성까지 관리 대상으로 삼았다.

AI가 스스로 능력을 높이는 '재귀적 자기개선'도 위험 요소에 포함했다. AI 성능이 빠르게 높아지면서 기존 안전장치로 대응하기 어려워질 가능성을 살피겠다는 취지다. 프런티어 AI와 관련한 사이버보안 위협도 다뤘다.

사람이 AI를 계속 통제할 수 있는지도 관리 대상이다. AI가 인간의 의도를 제대로 따르지 않거나 사람의 통제에서 벗어나 행동할 가능성을 위험 요소로 분류하고 이에 대응할 기술과 관리 방안을 제시했다.

중국은 생성형 AI가 확산하기 전부터 관련 관리 체계를 마련해왔다. 2022년부터 알고리즘 등록제를 운영했으며 생성형 AI가 등장한 뒤에는 관련 규정을 추가했다. 최근에는 에이전트와 체화형 AI, 재귀적 자기개선처럼 새롭게 등장한 위험까지 관리 범위를 넓혔다.

주 샤오민 중국 퉁지대 컴퓨터공학과 교수는 지디넷코리아와 통화에서 "중국은 AI를 안전하고 통제할 수 있으면서 건전성 있고 투명성 있게 발전하도록 요구한다"며 "AI 모델을 만들 때 시작 전부터 하나하나 검증하고 모델을 만드는 과정에서도 알고리즘을 테스트하고 강화하는 과정을 반복하고 있다"고 말했다.