퍼플렉시티, 맥에 '하이브리드 컴퓨트' 도입…클라우드·로컬 모델 나눠 쓴다

애플 실리콘으로 일부 AI 연산 분산…로컬 토큰에는 별도 비용 없어

퍼플렉시티가 맥에서 인공지능(AI) 연산 일부를 직접 처리하는 '하이브리드 컴퓨트'를 도입한다. 민감한 개인정보가 포함된 작업은 이용자 기기 안에서 처리하고 고성능이 필요한 작업은 클라우드 모델에 맡겨 개인정보 보호와 비용 효율을 함께 높이겠다는 전략이다.

퍼플렉시티는 맥용 퍼플렉시티 앱 이용자 대상으로 하이브리드 컴퓨트 기능을 적용한다고 2일 공식 블로그에서 발표했다. 

이에 따라 AI 에이전트 '컴퓨터'는 작업 성격에 맞춰 로컬 모델과 클라우드 모델을 선택해 활용한다. 혈액검사 결과나 세금 신고서 소송 관련 자료처럼 민감한 파일을 다루는 작업은 맥에서 구동되는 로컬 모델이 맡는 식이다. 

퍼플렉시티가 맥에서 인공지능(AI) 연산 일부를 직접 처리하는 '하이브리드 컴퓨트'를 도입한다. (사진=퍼플렉시티)

퍼플렉시티는 기존 AI 에이전트 대부분이 클라우드 중심으로 작동한다는 점에 주목했다. 네이티브 환경에서 처리할 수 있는 작업과 웹을 거쳐야 하는 작업을 구분하지 않아 상당수 연산과 데이터가 클라우드로 전달되는 구조라는 설명이다.

아라빈드 스리니바스 퍼플렉시티 최고경영자(CEO)는 "우리는 맥 애플 실리콘을 활용해 작업 구조 보완에 나선 것"이라며 "기존 클라우드에서 처리하던 AI 연산 일부를 맥으로 옮겨 이용자 기기에서 직접 수행하도록 지원한다"고 링크드인을 통해 밝혔다. 이어 "로컬 모델이 사용하는 토큰에는 별도 비용도 발생하지 않는다"고 강조했다. 

반면 클라우드 모델은 높은 성능이 필요한 작업을 맡는다. 조사와 추론 등 복잡한 작업에는 프론티어 모델을 활용하고, 개인정보 보호가 중요한 작업은 로컬 모델에서 처리하는 식이다.

퍼플렉시티는 두 환경 가운데 어느 쪽에서 작업을 처리할지 판단하기 위해 개인식별정보(PII) 분류기도 활용한다. 분류기가 개인정보 포함 여부를 판단하면 이를 토대로 민감한 작업을 로컬 모델로 보내기 위한 기술적 조치다. 하이브리드 컴퓨트에 활용하는 PII 분류기를 오픈소스로 공개할 예정이다. 

스리니바스 CEO는 "하이브리드 컴퓨트는 클라우드 기반 프론티어 모델의 장점과 개인정보를 보호하는 로컬 실행 환경의 장점을 결합한다"고 밝혔다.