[AI 속도 논쟁①] AI 정말 위험해졌나…안전·패권 놓고 빅테크 충돌

앤트로픽 "AI, 사이버 공격 조율하는 수준"…모델·플랫폼·인프라·정부 입장 갈려

인공지능(AI) 개발 속도를 둘러싼 논쟁이 다시 커지고 있다. AI 에이전트가 사람의 지시를 받아 여러 작업을 이어서 처리하면서 사이버 공격 등 악용 방식도 달라지고 있어서다.

AI 안전을 이유로 개발 속도를 늦춰야 한다는 요구가 나오는 가운데, 글로벌 빅테크와 미국 정부의 시각은 엇갈린다. AI 시장에서 차지하는 위치와 사업 구조, 기술 경쟁에 대한 이해관계가 제각기인 탓이다.

앤트로픽이 10일(현지시간) 공개한 '2026년 9월 AI 악용 탐지 및 대응 보고서'에 따르면 AI는 사이버 공격에서 코드 작성이나 정보 검색을 돕는 수준에서 벗어나 정찰·취약점 탐색·침투·정보 탈취 등 공격 과정 전반을 수행하거나 조율하는 데 활용되고 있다. 

AI, 사이버 공격 '조력자'서 '지휘자'로

앤트로픽은 이를 AI가 사이버 공격의 '어시스턴트'에서 '오케스트레이터'로 이동한 것으로 표현했다. 지난해 12월부터 올해 8월까지 앤트로픽 서비스에서 확인·차단한 악용 사례를 분석한 결과, 한 공격에서는 AI 에이전트가 여러 기업을 대상으로 인증정보를 수집하고 데이터를 탈취하는 작업을 수행했다.

앤트로픽이 10일(현지시간) 공개한 '2026년 9월 AI 악용 탐지 및 대응 보고서 일부 (사진=앤트로픽)

약 34시간 동안 40곳이 넘는 기업 테넌트에서 2100개 이상의 마이크로소프트 엔트라 ID(옛 애저 AD) 인증 토큰이 탈취됐다. 이 과정에서 AI가 공격자의 작업 대부분을 한 것으로 나타났다.

또 다른 사례에서는 공격자가 목표만 제시하면 AI가 대상 환경을 분석하고 스크립트를 작성·실행한 뒤 결과를 확인하며 다음 작업을 이어가는 '바이브 해킹'도 확인됐다.

앤트로픽은 이같은 변화가 공격자의 기술 수준과 필요한 인력을 낮추는 효과도 낳고 있다고 분석했다. 소규모 해커가 AI를 활용해 여러 기관을 대상으로 공격을 진행하거나 AI를 활용한 취약점 연구와 공격 도구 개발을 지속한 경우도 보고서에 담겼다. 다만 공격자가 목표를 정하고 결과를 검토하는 등 핵심적인 판단까지 AI가 독자적으로 맡은 것은 아니었다.

안전 장치는 공감…개발 속도엔 입장차

다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 속도를 늦추자고 목소리를 낸 것도 이같은 문제의식에서다. 아모데이 CEO는 12일(현지시간) 자신의 홈페이지에 '우리는 프론티어의 속도를 조절해야 한다'는 제목의 글을 올리고 AI 모델 성능 향상 속도를 늦춰야 한다고 주장했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)가 20일 스위스 다보스에서 열린 세계경제포럼에서 발언하고 있다. 2026.1.20 (사진=로이터/뉴스1)

모델 개발을 중단하자는 것이 아니라 안전 검증이 모델 성능 향상을 따라갈 시간을 확보해야 한다는 취지다. 이와 관련해 아모데이 CEO는 독립 평가자 도입과 주요 AI 기업 간 안전 기준 마련, 국가 간 협력을 제안했다.

오픈AI와 구글 딥마인드는 아모데이 CEO의 문제의식에 호응하면서도 기술 개발 자체를 중단하는 방식보다는 안전장치를 갖추면서 발전 속도를 조정하자고 제안했다. 두 회사 모두 최첨단 모델을 직접 개발하고 있어 고성능 모델의 위험을 평가하고 안전성을 확보하는 문제가 모델 개발과 직접 연결돼 있다.

샘 알트먼 오픈AI CEO는 12일(현지시간) 자신의 엑스(X·옛 트위터)에서 "독립 평가자에게 직원과 같은 수준의 접근 권한을 부여하는 것은 좋은 생각이며 우리도 그렇게 할 것"이라고 밝혔다. 데미스 허사비스 구글 딥마인드 회장도 "세부 사항은 논의가 필요하지만 방향은 이 중요한 시점에 맞다"고 말했다.

반면 메타와 엔비디아는 업계 전체가 같은 속도로 개발을 늦추는 제안에는 거리를 두고 있다. 메타는 오픈 모델과 AI 서비스를 확대하며 자체적인 안전 검증 체계를 운영하는 기업이다. 엔비디아는 AI 모델을 직접 개발하기보다 그래픽처리장치(GPU)와 데이터센터 인프라를 공급하는 기업으로 AI 확산 자체가 사업 기반과 연결된다.

젠슨 황 엔비디아 CEO는 15일(현지시간) 세일즈포스 드림포스 행사에서 "안전은 법률의 문제가 아니라 엔지니어링의 문제"라며 "새로운 법이나 규제는 필요하지 않다"고 언급했다.

마크 저커버그 메타 CEO는 16일(현지시간) 자신의 엑스에 "모든 연구소는 모델을 안전하게 훈련할 수 있는 속도로 움직일 책임과 동기를 갖고 있다"며 "이를 위해 스스로 행동할 능력도 있다"고 강조했다. 

국제사회까지 번진 속도 논쟁…경쟁과 공조 사이

미국 정부는 자국의 기술 우위와 패권 경쟁이라는 국가적 이해관계를 이유로 AI 개발 공동 감속에 부정적인 견해를 보이고 있다. 도널드 트럼프 대통령은 AI 위험을 강조하며 개발 속도 조절을 요구하기보다 미국의 기술 경쟁력을 유지해야 한다고 강조해왔다. 특히 중국과의 경쟁에서 규제가 자국 기업의 발전을 제약할 수 있다는 입장이다.

도널드 트럼프 대통령 (사진=로이터/뉴스1)

트럼프 대통령은 14일(현지시간) 트루스소셜에 "AI에 필요한 유일한 통제 또는 가드레일은 강하고 현명한 대통령"이라고 밝혔다. 이어 "AI와 데이터센터를 둘러싼 역겨운 음모가 진행되고 있으며 중국만 이를 반기고 있다"며 "AI에서 승리하는 자가 승리한다"고 주장했다.

국제사회에서는 기업 간 경쟁을 넘어 국가 차원의 공동 대응이 필요하다는 목소리도 나왔다. AI 개발이 위험에 대한 이해보다 앞서가고 있어 국제적 공조와 공동 안전기준 마련이 필수라는 것이다. 

안토니우 구테흐스 유엔 사무총장은 16일(현지시간) "세계는 AI 안전을 놓고 벌어지는 바닥을 향한 경쟁을 감당할 수 없다"며 "정부와 기업 등이 참여하는 국제 정상회의에서 보편적인 안전 기준을 논의해야 한다"고 말했다.

개발 속도를 둘러싼 온도차는 각 기업이 맡고 있는 역할과 AI 경쟁에서의 위치에 따라 안전과 혁신의 우선순위를 다르게 설정하고 있기 때문으로 풀이된다. 여기에 국가 차원의 기술 경쟁까지 겹치면서 AI 개발 속도와 안전 기준을 둘러싼 논의도 기업별·국가별 다른 방향으로 전개되고 있다.

김두언 하나증권 연구원은 "안전 검증이 강화되면 특정 모델의 출시와 매출 인식이 늦어질 수 있다"면서도 "프론티어 모델의 개발 속도, 기존 모델의 추론 이용량, 데이터센터 구축, 고대역폭 메모리(HBM) 발주는 서로 다른 변수"라고 진단했다.