"군에 AI 제공 우려"…구글딥마인드 연구진 잇단 '퇴사'

美 국방부 기밀 업무에 AI 허용 확대…"사용 통제·인간 감독 부족" 우려

구글이 인공지능(AI) 기술을 군사 업무에 제공하는 데 반발해 연구진이 잇따라 사직했다. 이들은 군 AI 사용을 통제할 장치와 인간 감독이 충분하지 않다고 우려했다.  

21일(현지시간) BBC 등 외신에 따르면 소피아 리구오리 구글딥마인드 엔지니어링 부문 연구원을 비롯한 직원 여러 명이 이달 초 이같은 이유로 회사를 떠난 것으로 전해졌다. 

연구원들은 구글이 올해 초 미 국방부와 체결한 계약 건을 사직 이유로 꼽았다. 이 계약은 구글 AI 모델을 기밀 군사 업무를 포함한 모든 합법적인 정부 목적에 사용할 수 있도록 허용한다. 다만 적절한 인간의 감독과 통제 없이 국내 대규모 감시나 표적 선정을 포함한 자율무기에 사용해서는 안 된다는 조건을 담았다.

구글이 인공지능(AI) 기술을 군사 업무에 제공하는 계약을 확대하자 연구진이 반발하며 잇따라 사직했다. (사진=구글 제미나이 생성)

익명을 요청한 전 구글딥마인드 연구진은 이 같은 조건이 실제 군사 현장에서 제대로 작동할 수 있는지 의문을 제기했다. 구글이 미 국방부의 AI 사용을 통제하거나 거부할 권리가 없는 것으로 보이며, 기술이 어떻게 배치되는지 파악할 수 있는 범위도 제한적이라고 주장했다.

리구오리 구글딥마인드 연구원은 미군과 이스라엘군에 대한 회사의 협력 확대를 퇴사 이유로 꼽았다. 인간 감독과 국제법·인권 준수를 내세운 구글이 실제 사업에선 윤리적 가치를 지킨다는 믿음을 잃었다고 비판했다. 

전문가들은 AI가 군사적 의사결정 속도를 높일수록 사람이 오류를 확인할 시간은 줄어들 수 있다고 지적했다. 특히 AI가 선정한 수백 개 표적을 짧은 시간에 검토해야 한다면 사람이 판단 과정에 참여하더라도 결과를 실질적으로 검증하기 어렵다는 우려다.

현재 미 국방부는 전쟁에서 승리하려면 AI 도입이 필수적이라는 입장을 유지하고 있다. 피트 헤그세스 미국 국방장관은 군에 AI를 통합하는 것을 핵심 우선순위로 제시했다. 오픈AI를 비롯한 아마존, 마이크로소프트, 스페이스X, 오라클, 엔비디아, 리플렉션도 다양한 군사 환경에서 AI 기술을 사용할 수 있도록 하는 유사 계약을 체결한 바 있다. 

구글 내부에선 군사 활용에 대한 우려를 공개적으로 제기하기 어렵다는 주장도 나왔다. 일부 직원들은 고용계약이 구글에 대한 공개 비판을 제한하고 있으며, 보복이나 경력상 불이익을 우려해 발언을 주저하고 있다고 BBC에 밝혔다. 

이스라엘과의 협력도 내부 갈등 배경으로 꼽혔다. 구글은 2024년 아마존과 이스라엘 정부와 군에 AI 기술·클라우드 인프라를 제공하는 12억 달러 규모 '프로젝트 님버스' 계약으로 직원들의 비판을 받았다. 당시 구글은 이 사업이 무기나 정보기관과 관련된 고도로 민감한 업무나 기밀·군사 업무를 대상으로 하지 않는다고 밝혔다.

구글은 군 관련 계약을 검토하고 체결할 때 허용되는 사용에 관한 정책과 AI 원칙을 준수하는 일관된 절차를 따른다고 설명했다. 직원들이 기업 윤리부터 부정행위까지 우려를 안전하게 제기할 전용 창구를 운영하며 보복을 막기 위한 엄격한 직장 내 정책도 시행하고 있다고 밝혔다.

사라 쇼커 전 오픈AI 지정학팀 책임자는 "AI는 사람보다 훨씬 빠르게 작동하기 때문에 운용자가 결정을 내릴 수 있는 시간을 줄인다"며 "AI가 선정한 표적이 수백 개에 달하고 시간도 부족하다면 인간 운용자가 AI의 출력에 오류가 있는지 실질적으로 검토하는 것은 거의 불가능하다"고 말했다.