노타가 아마존웹서비스(AWS)와 함께 모바일(삼성), 반도체 IP(Arm), 데이터센터(퓨리오사AI), 엣지(모빌린트)에 이어 클라우드까지 인공지능(AI) 모델 경량화 사업 영역을 넓힌다.
노타는 AWS 공인 파트너 자격으로 트레이니움을 포함한 AWS AI 칩 환경에서 고객 AI 모델 경량화 및 튜닝 서비스를 제공한다고 7일 밝혔다.
노타는 이번 협력으로 자사 플랫폼 '넷츠프레소' 기반 AI 모델 튜닝 서비스를 출시한다. 대규모 AI 모델 학습에서 토큰 경제성을 제공하는 AWS 트레이니움과 고성능 추론을 낮은 비용으로 제공하는 AWS 인퍼런시아 도입을 검토하는 기업 고객이 대상이다.
넷츠프레소는 AI 모델 크기를 최대 90% 이상 축소하면서도 정확도를 유지할 수 있는 경량화·배포 자동화 플랫폼이다. 서비스는 기술검증(PoC) 및 진단, 모델 포팅 및 경량화, 성능 튜닝 단계로 구성된다.
노타는 AWS 트레이니움 및 인퍼런시아 환경에서 대규모언어모델(LLM) 튜닝 경험을 축적해왔다. 320억 개 파라미터 규모의 고성능 언어 모델에 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실을 1% 미만으로 유지하는 성과를 달성했다.
채명수 노타 대표는 "고객이 뛰어난 가격 대비 성능을 제공하는 AWS AI 칩 성능을 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 강조했다.
