Arm, AI 소프트웨어 최적화·배포 'AI 포털' 공개

클라우드, 엣지, 피지컬 AI 등 Arm 플랫폼 사전 최적화 모델·코드 예제 등 제공

Arm이 28일 Arm 기반 컴퓨팅 플랫폼에서 AI 소프트웨어를 최적화·배포할 수 있는 'Arm AI 포털'을 공개했다.

Arm AI 포털은 개발자와 코딩 에이전트 대상으로 Arm 컴퓨트 서브시스템(CSS)과 실리콘 등 환경에 맞는 AI 모델과 개발 리소스를 한 곳에서 활용할 수 있도록 지원한다.

지원 플랫폼은 클라우드, 엣지, 피지컬 AI 등이며 로보틱스용 비전 모델, 스마트폰용 생성 AI, Arm 기반 클라우드 CPU에서 구동되는 대규모 언어 모델(LLM) 등 용도와 플랫폼에 맞는 모델을 찾을 수 있다.

Arm이 개발자 대상으로 Arm 최적화 AI 모델을 제공하는 'Arm AI 포털'을 공개했다. (사진=Arm)

개발자는 Arm이 사전 최적화한 AI 모델을 바탕으로 지연 시간, 메모리 사용량, 모델 크기 등을 비교하고 코드 예제와 배포 워크플로우를 확인할 수 있다.

현재는 알리바바 큐원(Qwen), 구글 젬마 등이 제공되며 라이트RT, ONNX 런타임 등을 활용한다. Arm 최적화 모델은 허깅페이스에서 제공되며 코딩 에이전트는 MCP를 활용해 AI 포털의 리소스에 접근할 수 있다.

Arm은 향후 개발자가 자체 개발 모델이나 독점 모델을 포털에 가져와 Arm 기반 환경에서 성능을 분석하고 최적화할 수 있는 도구도 제공할 예정이다.

에이전트용 AI 리소스는 정식 출시 전 얼리 액세스를 통해 이용할 수 있다.