AI 위험론 정치권까지 번졌다…트럼프 '경쟁' vs 오바마 '안전'

앤트로픽 위험 경고에 CEO들도 '속도 조절론'…오바마, 민주당에 안전·경제 대응책 주문

인공지능(AI)의 빠른 발전을 우려하는 목소리가 미국 기술업계를 넘어 정치권으로 번지고 있다. 도널드 트럼프 미국 대통령은 중국과의 AI 경쟁에서 우위를 지켜야 한다고 강조한 반면 버락 오바마 전 미국 대통령은 민주당에 AI가 가져올 위험과 경제적 충격에 대비할 것을 주문했다.

13일(현지시간) 로이터와 가디언 등에 따르면 오바마 전 대통령은 지난 10일 열린 민주당 비공개 모금 행사에서 하킴 제프리스 하원 민주당 원내대표와 대담하며 AI에 대응할 정책 틀을 마련해야 한다고 밝혔다. 민주당이 오는 11월 중간선거에서 하원 다수당을 되찾으면 AI를 둘러싼 공개 논의를 시작하고 2028년 대선 후보들도 이를 핵심 의제로 다뤄야 한다고 강조했다.

오바마 전 대통령은 일자리를 비롯한 경제 전반에 미칠 영향도 살펴야 한다고 봤다. 민간기업을 중심으로 기술이 빠르게 발전하는 만큼 고용시장에 어떤 충격이 나타날지 살피고 이에 대응할 구체적인 대책을 정치권이 준비해야 한다는 취지다.

버락 오바마 미국 전 대통령은 하킴 제프리스 하원 민주당 원내대표와 대담하며 AI에 대응할 정책 틀을 마련해야 한다고 주장했다. (사진=씨넷)

트럼프 대통령은 개발 속도를 늦추는 데 거리를 뒀다. 그는 13일 아일랜드에서 기자들과 만나 미국이 중국보다 AI에서 앞서 있다며 안전장치는 필요하지만 경쟁에서 승리하는 것이 중요하다고 말했다. 기술 발전에 제동을 걸기보다 미국의 우위를 지키는 쪽에 무게를 뒀다.

이런 논쟁 배경에는 AI 업계에서 잇따라 나온 위험 경고가 있다. 오픈AI와 앤트로픽에서 AI 모델 개발에 참여했던 제이컵 콕슨은 지난 8일 앤트로픽을 떠나면서 선도 기업들이 충분한 대비 없이 스스로 성능을 높이는 초지능 개발 경쟁에 뛰어들고 있다고 비판했다.

앤트로픽 내부에서는 더 강한 경고도 나왔다. AI 정렬 연구를 이끄는 에번 허빙거는 향후 10년 안에 AI로 인류가 멸망할 가능성을 개인적으로 10% 이상으로 평가했다. 기술 발전 속도에 비해 이를 통제할 수단과 제도가 충분히 따라가지 못하고 있다고 본 것이다.

연구자들에 이어 경영진도 속도 조절을 요구하고 나섰다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 성능을 높이기 위한 경쟁을 늦춰 안전 기술을 확보할 시간을 벌어야 한다고 제안했다.

외부 검증을 강화하는 방안도 내놨다. 독립 평가자에게 직원과 비슷한 수준의 접근 권한을 주고 기업이 약속한 안전조치를 제대로 지키는지 확인하도록 하자는 구상이다. 민주주의 국가들이 공통 기준을 마련하고 중국을 포함한 국제사회가 AI를 이용한 생물무기 개발 등 심각한 악용을 막기 위해 협력할 필요성도 제기했다.

경쟁사들도 일부 제안에 호응했다. 샘 올트먼 오픈AI CEO는 독립 평가자에게 직원과 비슷한 수준의 접근 권한을 제공하는 데 동의했다. 일론 머스크 xAI CEO도 아모데이 CEO의 제안에 지지를 나타냈다.

AI 안전 문제는 미국 의회에서도 논의되고 있다. 민주당 에이미 클로버샤 상원의원과 공화당 존 튠·테드 크루즈 상원의원 등은 첨단 AI에서 중대한 위험이 확인될 경우 기업에 이를 줄일 의무를 부과하는 방안을 협의하고 있다. 위험을 알고도 충분한 조치를 취하지 않은 기업에 책임을 묻는 내용도 검토되고 있다.

오바마 전 대통령은 AI에 대해 "민간의 손에서 매우 빠르게 움직이고 있는 사안"이라며 "우리가 제대로 대응하지 않으면 위험해질 수 있다고 생각한다"고 말했다.