앤트로픽 "AI 개발 속도 조절해야"...머스크·알트먼도 공감

다리오 아모데이 CEO "6~12개월 내 위험 고조 가능성, 안전 조치·정렬 연구 우선"

다리오 아모데이 앤트로픽 최고경영자(CEO)가 최첨단 AI 모델의 개발 속도를 조절하자는 제안을 내놓았다.

시장 주도권을 놓고 맞서 온 샘 알트먼 오픈AI CEO와 일론 머스크 스페이스X CEO도 잇달아 공감하면서 AI 안전을 둘러싼 업계 논의가 새 국면을 맞을 전망이다.

다리오 아모데이 CEO는 13일 "AI 모델의 역량을 개선하는 속도를 늦춰야 한다"며 "최첨단 AI 개발 경쟁을 안전 중심으로 전환해야 한다"고 밝혔다.

(왼쪽부터) 다리오 아모데이 앤트로픽 CEO, 샘 알트먼 오픈AI CEO, 일론 머스크 스페이스X CEO

그는 개발 속도를 조절해 안전 조치와 정렬 연구에 1~2년의 시간을 더 확보한다면 AI 통제력 상실 위험을 크게 낮출 수 있다고 주장했다.

샘 알트먼 오픈AI CEO는 다리오 아모데이 CEO의 글 공개 직후 "AI 최전선을 조절해야 한다는 데 동의한다"고 밝혔다. 이어 독립 평가자에게 직원 수준의 접근 권한을 제공하자는 제안도 "좋은 생각"이라며 오픈AI 역시 이를 도입하겠다고 했다.

일론 머스크 스페이스X CEO 역시 다리오 아모데이 CEO의 게시글을 공유하며 "다리오가 옳다(Dario is right)"고 짧게 지지 의사를 밝혔다.

특히 그동안 AI 개발과 운영 방향을 두고 대립해 온 샘 알트먼 CEO와 일론 머스크 스페이스X CEO가 공감을 표했다는 점이 더욱 눈길을 끌고 있다.

다리오 아모데이 CEO는 과거 오픈AI에서 안전 연구를 이끌었으나 AI 모델의 성능 경쟁과 안전장치 구축 간의 균형, 조직 운영 방식 등을 둘러싼 갈등 끝에 회사를 떠났다. 이후 앤트로픽을 설립하고 오픈AI의 상업주의적 행보를 지속적으로 비판해 왔다.

일론 머스크 역시 2015년 오픈AI를 공동 창립했으나 2018년 이사회를 떠난 뒤 샘 알트먼 CEO와 오픈AI를 상대로 수차례 공개 비판과 법적 공방을 이어왔다. 앤트로픽 역시 윤리 철학과 기술 검열, 국방 협력 태도 등을 문제 삼으며 강력히 비판해왔다.

샘 알트먼 CEO도 앤트로픽과 머스크 측의 행보를 공개 비판해 왔다. 앤트로픽이 광고 없는 AI를 내세워 오픈AI를 겨냥하자 이를 부정직한 광고라고 반박했고 일론 머스크가 제기한 오픈AI 영리화 비판과 소송에 대해서는 경쟁사 xAI에 유리한 주장을 위한 것이라고 맞섰다.

다리오 아모데이 CEO의 발언에 공감한 일론 머스크 CEO와 샘 알트먼 CEO(이미지=엑스(X))

서로 다른 길을 걸으며 대립각을 세워 온 AI리더 간에 '개발 속도 조절'이라는 안전 원칙 앞에서 한목소리를 낸 것은 최첨단 모델의 위험성이 기업 간 경쟁을 넘어선 산업 전체의 최우선 과제가 되었음을 보여준다는 분석이다.

다리오 아모데이 CEO가 제시한 방안은 크게 세 갈래다. 주요 AI 기업이 외부 독립 평가단에 상시적인 내부 접근 권한을 부여해 안전 관리 체계를 점검받아야 한다는 것이다.

앤트로픽은 외부 평가자가 사무실 좌석과 출입증, 업무용 노트북 등을 제공받는 방식으로 회사 직원에 준하는 접근성을 갖도록 하겠다고 밝혔다.

또 미국 정부가 AI 기업들이 반독점 규제 부담 없이 안전 기준과 개발 속도 조절 방안을 협의할 수 있도록 예외를 검토해야 한다고 제안했다.

미국 등 민주주의 국가가 공조하더라도 중국을 비롯한 다른 국가의 기업들이 개발 경쟁을 가속할 경우 실효성이 떨어질 수 있는 만큼 장기적으로는 국제 공조도 필요하다고 강조했다.

다만 업계 일각에서는 AI 기업 수장들의 경고가 규제 강화와 시장 진입장벽 형성으로 이어질 수 있다는 비판도 나온다. 강력한 모델을 개발할 수 있는 소수 기업이 안전 기준을 주도하게 되면 후발 기업이나 오픈소스 진영의 경쟁 여지가 줄어들 수 있다는 지적이다.

다리오 아모데이 CEO는 "AI가 스스로 차세대 모델 개발을 보조하는 단계에 접어들면서 인간의 통제를 벗어날 위험이 가시화되고 있다"며 "지금 개발 속도를 조절하지 않으면 6~12개월 안에 다수의 AI 에이전트가 연계돼 인터넷 전반에서 광범위하게 활동하며 파국적 피해를 초래할 수 있다"고 경고했다.

이어 "안전 조치와 정렬(Alignment) 연구를 위해 1~2년의 시간을 우선 확보해야 한다"며 "단순히 개발을 멈추자는 것이 아니라, 제3자 평가기관의 검증과 안전망 구축을 병행하는 '유연한 개발 속도 조절(Pacing)'이 필요하다"고 강조했다.