퀄컴은 19일 대형언어모델 라마2(LLaMA 2)를 스마트폰과 PC 등에서 구현하기 위해 메타와 협업한다고 밝혔다.
라마2는 오픈소스 대형언어모델로 클라우드나 슈퍼컴퓨터 없이 PC나 스마트폰 등에서 작동 가능하도록 경량화됐다.
![](https://image.zdnet.co.kr/2023/07/19/2b5e2f02a9d92bc3db267c14f64a5063.jpg)
퀄컴은 라마2를 최적화해 퀄컴 AI 엔진이 내장된 스냅드래곤 기반 PC나 스마트폰에서 구동할 수 있도록 할 예정이다. 개발자들은 이를 통해 클라우드 접속이 없는 비행기 모드 등에서 개인화된 경험을 제공할 수 있다.
두르가 말라디 퀄컴 기술, 기획 및 엣지 솔루션 부문 본부장은 "퀄컴은 생성형 AI를 온디바이스에 적용해 모든 규모의 개발자들을 위한 혁신을 추진하고 진입 장벽을 완화하는 데 전념하고 있다"고 밝혔다.
관련기사
- 인텔·퀄컴·엔비디아, 바이든 행정부에 "中 추가 규제 반대"2023.07.18
- 퀄컴, '이노베이션 펠로우십 코리아 2023' 지원자 모집2023.07.10
- 퀄컴, S3 2세대 사운드 포트폴리오 PC 게이밍으로 확장2023.06.29
- 퀄컴, 보급형 기기용 스냅드래곤 4 2세대 플랫폼 출시2023.06.27
이어 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐만 아니라 스마트폰, 노트북, 차량, IoT 등과 같은 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.
![](https://image.zdnet.co.kr/2023/07/19/d90ab0e16f75e65e96e9c2c1c224b88d-watermark.jpg)
퀄컴은 오는 2024년부터 스냅드래곤 기반 기기에서 라마2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 퀄컴 AI 스택을 활용해 온디바이스 AI 응용프로그램을 최적화할 수 있다.