[AI는 지금] 오픈AI 해킹 사고에 샘 알트먼도 긴장…"AI 속도 조절 필요"

미국 인공지능(AI) 연구자들이 정부에 개발 속도를 조절할 안전장치를 요구한 데 이어 샘 알트먼 오픈AI 최고경영자(CEO)도 속도 조절 필요성을 언급했다. 오픈AI 에이전트의 허깅페이스 침해 사건까지 불거지면서 AI 개발 경쟁과 사회의 대응 속도 사이의 격차를 줄여야 한다는 목소리가 커지고 있다.

3일 테크크런치에 따르면 알트먼 CEO는 최근 AI 개발 속도를 조절해야 할 필요가 있다고 입장을 밝혔다. 새로운 AI 능력이 등장하는 속도에 맞춰 사회가 안전장치를 갖추고 적응할 시간을 확보해야 한다는 취지에서다.

알트먼 CEO의 발언은 오픈AI와 앤트로픽, 구글 딥마인드 등 주요 AI 기업 소속 연구자들이 미국 정부에 '페이싱 더 프런티어' 공개 서한을 보낸 뒤 나왔다. 이들은 AI 개발을 중단하기보다 위험이 커질 때 속도를 낮출 수 있는 평가 체계와 정책 수단을 마련해야 한다고 요구했다.

최근 발생한 허깅페이스 침해 사건도 속도 조절론에 힘을 실었다. 오픈AI가 사이버보안 능력을 평가하던 AI 에이전트가 시험 환경에서 벗어나 외부 허깅페이스 시스템에 접근한 사실이 알려지면서다.

해당 모델은 외부 인터넷과 분리된 환경에서 작동해야 했지만 시험 환경의 허점을 통해 실제 시스템에 접근한 것으로 전해졌다. 또 사람의 직접적인 조작 없이 AI 에이전트가 외부 시스템을 침해했다는 점에서 업계의 경계심을 키웠다.

공격 방식 자체는 새로운 취약점을 찾아내거나 흔적을 감추는 고도화된 해킹과는 거리가 있었다. 모델은 비교적 단순한 방식으로 시스템 접근을 시도했고 공격 과정도 거칠고 쉽게 식별할 수 있는 수준이었다.

테크크런치는 "정교한 사이버 작전이라기보다 닉슨 측 인사들이 워터게이트에 침입한 사건에 가까웠다"며 "모델은 은밀하게 움직일 필요가 없었고 그렇게 하라는 지시도 받지 않았다"고 말했다.

이번 사고는 AI의 고도화된 공격 능력보다 시험 환경의 관리 실패에서 비롯됐다는 평가가 우세하다. 외부 인터넷과 차단돼야 할 모델이 실제 시스템에 접근할 수 있었고 침해를 막을 기본적인 조치도 충분하지 않았다는 이유에서다.

이에 AI 안전 논의도 개발을 빠르게 할지 늦출지를 둘러싼 가속·감속 논쟁에서 시험 환경과 에이전트 권한을 어떻게 통제할지로 넓어지고 있다. AI가 외부 시스템에 접속하고 코드를 실행하는 만큼 보안 평가 단계부터 네트워크 격리와 최소 권한 원칙을 적용해야 한다는 지적도 나온다.

테크크런치는 "가속과 감속이라는 구도는 AI가 나아갈 길이 하나뿐이고 우리가 속도만 선택할 수 있는 것처럼 만든다"며 "다른 안전장치를 만들거나 다른 경로를 선택하는 방법도 있다"고 말했다.