오픈AI '디시전스 API', AI 에이전트 안전장치로 주목

오픈AI가 공개한 '디시전스 API'가 인공지능(AI) 에이전트의 행동을 감시하는 안전장치로 활용될 가능성이 제기됐다.

1일 테크크런치에 따르면 오픈AI가 데브데이에서 공개한 디시전스 API를 AI 에이전트의 '감시자'로 활용할 수 있다는 분석이 나왔다. AI 에이전트가 파일을 수정하거나 외부 사이트에 접속하기 전에 다른 AI가 행동을 확인하고 문제가 있으면 실행을 막을 수 있다.

디시전스 API는 여러 선택지 가운데 현재 상황에 맞는 답을 빠르게 고르는 기술이다. 오픈AI는 GPT-6 루나를 기반으로 이미지 분류나 고객 요청 처리 경로 결정, 여러 AI 에이전트 가운데 다음 작업을 맡을 대상을 고르는 데 활용할 수 있다고 소개했다. 결과는 1초보다 짧은 시간 안에 내놓을 수 있다.

오픈AI가 29일 데브데이에서 공개한 디시전스 API를 AI 에이전트의 '감시자'로 활용할 수 있다는 분석이 나왔다. 사진은 샘 알트먼 오픈AI CEO가 데브데이에서 발표하는 모습. (사진=오픈AI 유튜브 캡처)

이를 감시에 활용하면 AI 에이전트가 하려는 행동이 이용자가 맡긴 일과 맞는지 한 번 더 확인할 수 있다. 문제가 있다고 판단하면 실행을 막고 판단이 애매한 경우에는 사람이 확인하도록 조치하는 것도 가능하다.

비슷한 기술을 실제 AI 에이전트 감시에 적용한 사례도 나왔다. 사이버보안 스타트업 쿼리스토리는 타입세이프AI가 개발한 AI 모델 '제브'를 이용해 에이전트가 행동할 때마다 문제가 없는지 검사하는 시스템을 시험했다.

제브는 긴 문장을 만드는 대신 미리 주어진 선택지 가운데 적절한 답을 고르는 데 특화됐다. 쿼리스토리는 에이전트가 하려는 행동이 맡은 작업과 어긋난다고 판단하면 실행을 차단하고 판단이 애매한 경우에는 사람이 확인하도록 했다.

감시에 드는 비용에서도 큰 차이가 나타났다. 같은 작업에 프런티어 AI 모델을 사용했을 때는 372달러(약 50만원)가 들었지만 제브를 이용했을 때는 2.94달러(약 4000원)가 소요됐다. 에이전트가 행동할 때마다 별도의 AI로 확인하는 데 드는 비용을 크게 줄인 것이다.