애플, 아이폰에서 LLM 어떻게 돌릴까

애플의 인공지능(AI) 연구진들이 새로운 플래시 메모리 활용 기술을 통해 메모리가 제한된 아이폰등 애플 기기에서 대규모 언어모델(LLM)을 활용할 수 있는 기술을 개발했다.

AP, 파이낸셜타임스 등 외신들은 21일(현지시간) 애플 연구진이 최근 두 편의 논문을 통해 제한된 메모리 환경에서 LLM 기술을 활용하는 기술을 공개했다고 보도했다.

사진=씨넷

■ 애플, ‘플래시 메모리 활용’ AI 데이터 저장 기술 개발

챗GPT 등 LLM 기반 챗봇은 구동 시 막대한 양의 메모리가 필요하다. 그렇기 때문에 메모리 용량이 제한된 아이폰에서 이를 어떻게 구현할 지에 많은 사람들의 관심이 모아졌다.

이 문제를 해결하기 위해 애플 연구진은 플래시 메모리를 사용해 AI 모델의 데이터를 저장하는 새로운 기술을 개발했다. 애플은 '플래시의 LLM : 제한된 메모리를 사용한 효율적인 LLM 추론'이라는 제목의 논문에서 LLM 실행에 전통적으로 많이 사용되는 램보다 모바일 기기에서는 플래시 메모리가 더 효과적이라고 설명했다.

또, 아이폰에 LLM을 탑재하는 방법으로 매번 새로운 데이터를 로드하지 않고 이미 처리한 데이터

중 일부를 재사용해 데이터 전송을 줄이는 ‘윈도우잉’(Windowing) 기술과 플래시 메모리에 저장해 읽는 데이터 블록의 크기를 늘리는 ‘행-열 번들링’(Row-Column Bundling) 두 가지 방법을 제안했다.

이 기술을 통해 애플의 AI 모델은 아이폰의 사용 가능한 메모리 크기의 최대 두 배까지 실행 가능하며, 이는 CPU의 속도가 4~5배 증가하고 GPU의 경우 20~25배 더 빠른 속도를 의미한다고 연구진은 설명했다.

■ 똑똑해진 시리·애플표 챗GPT 진행상황은?

사진=씨넷

애플은 지난 2월 AI 서밋을 개최해 직원 대상으로 LLM 작업에 대해 브리핑한 것으로 알려져 있으며, 블룸버그 통신은 애플은 AI 기술을 통합해 더욱 똑똑해진 시리를 개발 중이라고 보도했다.

또, 애플은 ‘에이젝스’(Ajax)라고 불리는 자체 생성 AI 모델을 개발 중이다. 오픈AI의 GPT-3, GPT-4와 경쟁하도록 설계된 에이젝스는 애플 전체의 머신러닝 개발을 통합하는 것을 목표로 하고 있다.

최신 보고서에 따르면, 에이젝스는 이전 세대 챗GPT 3.5보다 더 뛰어난 것으로 알려져 있으나, 2023년 9월 현재 오픈AI의 최신 모델은 에이젝스보다 더 발전했을 것이라는 전망이 나와있다고 IT매체 맥루머스는 전했다.

IT매체 디인포메이션과 홍콩 하이통 증권 분석가 제프 푸에 따르면, 애플은 iOS18가 출시되는 내년 말에 아이폰과 아이패드에 생성 AI 기능을 탑재할 것으로 예상된다. 제프 푸는 지난 10월 애플이 올해 수백 대의 AI 서버를 구축했으며 내년에는 더 많은 서버를 구축할 것이라고 밝힌 바 있다.