인공지능(AI) 기반 '가상 직원'이 내년부터 기업 네트워크에 본격 접근할 것이라는 전망이 나온 가운데, 이에 대비한 보안 체계 재설계가 시급하다는 지적이 나왔다.
23일 미국 악시오스 등 외신에 따르면 앤트로픽 제이슨 클린턴 최고정보보안책임자(CISO)는 내년부터 AI 가상 직원이 기업 네트워크를 자율적으로 관리할 것이라고 예측하며 이같이 주장했다.
AI 가상 직원은 특정 업무 수행을 넘어 고유 계정과 비밀번호로 사내 시스템에 접근할 수 있다. 사람처럼 기억력도 갖췄으며, 역할에 따라 어떤 업무를 수행해야 하는지 구분할 수 있다. 기존 AI 직원이 정해진 업무만 자동화했다면, AI 가상 직원은 독립적으로 판단하고 장기간 운영되는 것이 특징이다.
보안 전문가들도 기업 핵심 개발 시스템에 AI가 개입할 경우 예기치 않은 보안 사고가 발생할 수 있다는 우려를 제기했다. 한 업계 관계자는 "AI 가상 직원이 통합 시스템(CI)의 코드 배포 단계에 자율적으로 침투하는 상황도 배제할 수 없다"고 악시오스를 통해 밝혔다.
인간 직원과 가상 직원 역할·책임 기준도 불명확하다는 의견도 나왔다. 실제 일부 기업은 AI를 기존 인력과 동일하게 조직도에 포함하는 방안을 검토했지만, 인간과 AI의 책임 기준이 없어 이를 철회한 사례도 있었다.
클린턴 CISO도 AI 가상 직원 도입에 따른 보안 체계 재설계 필요성에 동의했다. 그는 "기업은 AI 직원 계정을 누구 명의로 만들고 어떤 권한을 줄지, 내부 시스템에서 발생할 수 있는 사고에 대한 책임은 누구에게 있는지를 새롭게 정해야 한다"고 강조했다.
그러면서 "앞으로 계정 관리와 접근 권한 설정, 이상 행위 감지가 매우 복잡해질 것"이라고 덧붙였다.
관련기사
실제 보안 업계는 사람이 아닌 AI나 자동화 시스템 계정을 관리하는 솔루션을 내놓고 있다. 올해 2월 옥타는 '비인간 계정'을 전담 관리하고 이상 행동을 탐지할 수 있는 통합 관리 도구를 출시했다.
클린턴 CISO는 "AI 에이전트가 실수했을 때 그 피해는 기업이 지게 된다"며 "가상 직원의 보안 체계를 제대로 만드는 일이 앞으로 매우 중요할 것"이라고 주장했다.
