퀄컴, 스마트폰에서 라마2 AI 구현 위해 메타와 협력

2024년부터 스마트폰·PC에서 라마2 기반 AI 지원

퀄컴은 19일 대형언어모델 라마2(LLaMA 2)를 스마트폰과 PC 등에서 구현하기 위해 메타와 협업한다고 밝혔다.

라마2는 오픈소스 대형언어모델로 클라우드나 슈퍼컴퓨터 없이 PC나 스마트폰 등에서 작동 가능하도록 경량화됐다.

(사진=메타)

퀄컴은 라마2를 최적화해 퀄컴 AI 엔진이 내장된 스냅드래곤 기반 PC나 스마트폰에서 구동할 수 있도록 할 예정이다. 개발자들은 이를 통해 클라우드 접속이 없는 비행기 모드 등에서 개인화된 경험을 제공할 수 있다.

두르가 말라디 퀄컴 기술, 기획 및 엣지 솔루션 부문 본부장은 "퀄컴은 생성형 AI를 온디바이스에 적용해 모든 규모의 개발자들을 위한 혁신을 추진하고 진입 장벽을 완화하는 데 전념하고 있다"고 밝혔다.

이어 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐만 아니라 스마트폰, 노트북, 차량, IoT 등과 같은 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.

퀄컴은 개발자들이 AI 스택을 활용해 라마2 기반 AI를 구현하도록 지원할 예정이다. (사진=지디넷코리아)

퀄컴은 오는 2024년부터 스냅드래곤 기반 기기에서 라마2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 퀄컴 AI 스택을 활용해 온디바이스 AI 응용프로그램을 최적화할 수 있다.