퍼플렉시티, AI 에이전트 '안전 작업실' 오픈소스로 푼다

퍼플렉시티가 인공지능(AI) 에이전트가 작업 도중 중요한 정보나 다른 시스템에 무단으로 접근할 위험을 줄이는 보안 기술을 오픈소스로 공개했다.

15일(현지시간) 퍼플렉시티는 공식 블로그를 통해 AI 에이전트 실행 플랫폼 '스페이스(SPACE)'의 소스코드를 공개했다고 밝혔다. 지난 7월부터 자사 AI 에이전트 서비스 '컴퓨터'에 적용해 온 기술로, 다른 개발자들도 이를 활용하고 수정할 수 있도록 했다.

AI 에이전트는 질문에 답하는 데 그치지 않고 파일을 열거나 프로그램을 실행하며 직접 업무를 처리한다. 하지만 작업 중 중요한 정보에 접근하거나 허가받지 않은 명령을 실행할 위험도 있다. AI에 안전 규칙을 설정하더라도 예상하지 못한 행동을 완전히 막기는 어렵다.

퍼플렉시티는 AI 에이전트 실행 플랫폼 '스페이스(SPACE)'의 소스코드를 공개했다. (사진=씨넷)

스페이스는 이런 위험을 줄이기 위해 AI에 별도의 작업 공간을 제공한다. AI가 코드를 실행할 때 다른 시스템과 분리된 작은 가상 컴퓨터를 사용하는 방식이다. AI가 실수하거나 예상과 다르게 행동하더라도 피해가 다른 시스템으로 번지지 않도록 설계했다.

보안장치는 작업 공간 밖에도 마련했다. 외부 서비스에 접속할 때 필요한 비밀번호와 인증정보를 별도로 관리하고 인터넷 연결도 통제한다. AI가 허용된 작업을 수행하면서도 불필요한 정보에는 접근하지 못하도록 제한하는 구조다.

작업을 중단하거나 이전 상태로 되돌리는 기능도 제공한다. 일례로 AI가 자료를 분석하다 파일을 잘못 수정하면 앞서 저장한 상태로 복원할 수 있다. 이용자의 확인이 필요할 때는 작업을 잠시 멈췄다가 다시 이어갈 수도 있다.

퍼플렉시티는 스페이스의 안전성을 확인하기 위해 AI가 가상 컴퓨터를 벗어나 실제 시스템에 접근하도록 하는 보안 시험도 진행했다. 회사에 따르면 108차례 시험에서 가상 컴퓨터를 벗어나 외부 시스템에 침입한 사례는 없었다. 다만 일부 시험에서는 인터넷 연결 제한을 우회하는 문제가 발견됐으며 이를 수정한 뒤 다시 시험했다고 설명했다.

운영 성능도 개선됐다. 퍼플렉시티는 스페이스를 통해 하루 수백만 개의 AI 작업 공간을 생성하고 있다. 기존에 사용하던 외부 업체의 서비스와 비교하면 작업 공간을 만드는 속도가 3~5배 빨랐다고 밝혔다.

AI 작업 공간을 별도로 분리하는 기술 자체는 이전에도 있었다. 퍼플렉시티 역시 외부 업체 서비스를 사용하다 지난 7월 자체 개발한 스페이스로 교체했다. 이번에는 실제 운영에 사용하던 기술을 공개해 다른 기업과 개발자들도 활용할 수 있도록 했다.