퍼플렉시티, GPT-6 아스트라에 프로덕션 시스템 맡겼다…"확인 빈도 크게 줄어"

현지 시각 9월 14일 오픈AI가 공개한 고객 사례에 담긴 내용이다. 검색 서비스 퍼플렉시티가 GPT-6 아스트라로 사내 커뮤니케이션을 작성하고 소프트웨어를 수정하며 운영 중인 시스템을 감시하고 있다는 것이 사례의 요지다. 프로덕션 시스템은 실제 이용자가 쓰고 있는 운영 환경을 가리킨다.

조니 호 퍼플렉시티 공동창업자 겸 최고전략책임자는 "우리는 이전 세대 모델로는 할 수 없던 방식으로 모델이 커뮤니케이션을 작성하고 실제 시스템을 수정하며 프로덕션 소프트웨어를 감시하게 할 수 있다"고 말했다. 이어 "전체 시스템을 처음부터 끝까지 맡길 수 있고 이전 세대 모델보다 훨씬 덜 자주 확인해도 된다"고 덧붙였다.

호는 모델의 코드 작성 능력이 좋아질 때마다 퍼플렉시티 검색 엔진도 함께 개선된다고 설명했다. 웹과 내부 정보를 검색해 간결하게 요약하는 프로그램을 모델이 더 잘 작성하기 때문이라는 것이다.

시험 과정에도 적용했다. 퍼플렉시티는 수동으로 시험할 시간이 부족해 애플리케이션 주변에 소규모 시험 프로그램을 구축하도록 아스트라에 요청했다. 모델은 언어 모델 API나 커넥터 같은 외부 서비스가 보낼 법한 응답을 생성해 대역 역할을 했고, 애플리케이션의 반응과 작업 흐름을 처음부터 끝까지 검증했다.

GPT-6 아스트라는 오픈AI가 9월 3일 공개한 최신 모델이다. 아라빈드 스리니바스 퍼플렉시티 최고경영자는 출시 당시 아스트라가 폭넓고 깊은 조사 작업에서 다른 모델을 크게 앞서면서 비용 효율도 높다고 평가하며, 프로와 맥스 이용자를 대상으로 퍼플렉시티 컴퓨터에 적용하겠다고 밝힌 바 있다. 오픈AI가 책정한 아스트라 API 요금은 100만 토큰당 입력 10달러, 출력 50달러이며 한 번에 참고할 수 있는 분량은 105만 토큰이다.

오픈AI는 같은 기간 다른 고객 사례도 함께 공개했다. 9월 8일에는 1패스워드가 코덱스를 도입해 엔지니어링 생산성을 21% 높였다고 밝혔고, 9월 3일에는 법률 AI 레고라가 문서 41건을 검토한 사례와 게임사 플레이코가 수동 수정 작업을 50% 줄인 사례를 공개했다. 9월 11일에는 코그니션 사례가 추가됐다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: 오픈AI