지금은 '온디바이스 AI' 시대...인터넷 접속 없어도 OK

오픈AI 챗GPT, 어도비 파이어플라이 등 현재 주목받는 각종 생성형 인공지능(AI) 서비스는 대부분 클라우드에서 구동된다. 웹브라우저나 전용 프로그램을 통해 질문이나 이미지 생성 요청을 넣으면 불과 수 초 안에 원하는 결과물을 되돌려준다.

그러나 현재 클라우드에 절대적으로 의존하는 생성 AI 서비스는 개인 정보 등 프라이버시나 기업 비밀, 민감 정보 노출 가능성에서 자유롭지 않다. 또 클라우드가 생성 AI 처리를 위해 소모하는 막대한 전력 역시 넘어야 할 과제 중 하나다.

현재 대부분의 생성 AI 서비스는 대부분 클라우드에 의존한다. (사진=이미지투데이)

시장조사업체 가트너는 지난 해 11월 "모든 AI 활동이 클라우드에서만 이루어진다면 이때 소모되는 전력량은 2030년까지 글로벌 전체 전기 생산량의 3.5%를 차지할 것"이라는 조사 결과를 내놨다.

■ 클라우드 기반 생성 AI 보완하는 '온디바이스 AI'

로이터통신 역시 지난 해 구글 모회사인 알파벳 존 헤네시 의장을 인용해 "AI 추론에 클라우드만 활용하면 이를 처리하는 AI 반도체 가격 뿐만 아니라 전력 소모 등 원가 상승으로 인해 기존 대비 10배 이상으로 높아질 것"이라고 보도했다.

정보 유출과 지연 시간, 비용 상승을 줄이면서 AI를 활용하기 위한 방안으로 제시되는 것이 '온디바이스 AI'다. 수억 개의 매개변수(패러미터)로 최적화된 AI 모델을 인터넷 접속 없이 직접 실행하는 것이다.

지난 해 케다르 콘답 퀄컴 본부장은 ”미래 AI는 클라우드와 온디바이스를 조합한 하이브리드 형태가 될 것”이라고 설명했다. (사진=지디넷코리아)

온디바이스 AI는 인터넷 접속이 없는 환경에서도 생성 AI를 실행해 일관성 있는 환경을 제공함은 물론 개인정보와 사생활, 기업이나 조직 내 민감 정보를 외부에 노출시키지 않는다는 장점을 지녔다. 보다 정밀한 결과가 필요한 경우에만 클라우드를 활용해 비용 문제도 최소화할 수 있다.

■ 퀄컴, 모바일 이어 PC까지 온디바이스 AI 포트폴리오 확장

현재 주요 글로벌 반도체 기업들은 온디바이스 AI를 활용할 수 있는 고성능 반도체 개발에 총력을 기울이고 있다. 이 중 퀄컴은 스마트폰·태블릿 등 모바일 기기 뿐만 아니라 PC 분야까지 폭넓은 포트폴리오를 가지고 있다.

퀄컴은 스마트폰용 SoC인 스냅드래곤8을 시작으로 지난 6월 자체 개발 '오라이온'(Oryon) CPU를 탑재한 스냅드래곤 X 엘리트/플러스를 출시하며 온디바이스 AI 포트폴리오를 확장했다. 현재 스냅드래곤 X 엘리트/플러스를 탑재한 PC 22종이 국내외 시장에 출시됐다.