"미국이냐 중국이냐"…AGI, 독점하면 세계 지배, 실패하면 '공멸'

美 랜드 연구소, 'AGI 개발 경쟁' 시나리오 공개…통제 실패 시 재앙적 결과 경고

미국의 대표적 싱크탱크가 범용인공지능(AGI) 개발 방식이 국가의 흥망을 가를 것이라는 분석을 제시했다. AGI 개발의 중앙집중화 정도가 향후 지정학적 패권을 결정하는 핵심 변수임을 강조하며 정책 입안자들의 경각심을 촉구하려는 의도다.

27일 랜드 연구소 '범용일반지능이 국가의 흥망성쇠에 미치는 영향' 보고서에 따르면 미래 AGI 지정학 지형을 결정할 핵심 변수로 ▲개발의 중앙집중화 정도 ▲국가와 민간의 관계 ▲AI 통제(정렬) 문제 ▲사회·경제적 혼란 등이 꼽힌다. 이 변수들이 어떻게 작용하느냐에 따라 지정학적 질서가 근본적으로 바뀔 수 있다는 분석이다.

가장 중요한 변수는 개발의 중앙집중화 정도다. 자원이 풍부한 기존 강대국은 고도로 중앙집중화된 개발을 통해 이점을 극대화할 수 있다. 반면 탈중앙화된 개발은 다양한 행위자를 강화하지만 기술 확산 위험을 키운다.

미국의 대표적 싱크탱크가 범용일반지능(AGI) 개발 방식이 국가의 흥망을 가를 것이라는 분석을 제시했다. (사진=코파일럿 제작)

국가와 민간 산업의 관계 역시 판도를 바꿀 핵심 요인이다. 보고서는 민관 협력이 긴밀할수록 좋은 결과를 낳는다고 분석했다. 국가나 기업 어느 한쪽의 힘만으로는 AGI를 효과적으로 관리할 수 없기 때문이다.

인간 친화적 목표를 추구하도록 AGI를 안정적으로 제어하는 것의 어려움은 또 다른 중대 리스크다. 지정학적 상황이 유리해도 통제 불능 상태에 빠질 경우 재앙적 결과를 맞을 수 있다. 이를 막으려면 위험한 행위자의 접근을 막는 국제 공조가 필수다.

AGI가 촉발할 경제·사회적 혼란도 큰 변수다. 급속한 자동화와 대규모 실업 정보 조작 같은 문제에 사회가 얼마나 잘 적응하느냐가 관건이다. 사회의 적응 능력에 따라 AGI는 기존 권력 구조를 강화하거나 혹은 약화시킬 수 있다.

연구소는 이를 바탕으로 8개의 가상 시나리오를 제시했다. 시나리오에는 AGI가 미국이나 경쟁국에 힘을 실어주는 경우와 지정학적 격변을 초래하는 상황 등이 포함됐다. 심지어 AGI 개발이 중단되는 시나리오까지 검토하며 다양한 가능성을 열어뒀다.

랜드 연구소는 보고서에서 "국가나 기업 어느 한쪽만으로는 AGI 개발을 효과적으로 통제할 수 없다"며 "균형 잡힌 협력이 필수적"이라고 강조했다.