노타, 상장 열차 탔다…'LLM 최적화'로 기업가치 퀀텀점프 승부수

'AI 국가대표' 기술력 집약한 서비스 출시…하드웨어 교체 없는 AI 시대 개막

노타가 값비싼 하드웨어 교체 없이 최신 거대언어모델(LLM)을 도입하는 기술로 인공지능(AI) 시장을 공략한다.

노타는 낮은 사양의 디바이스에서도 LLM을 구현할 수 있는 'LLM 최적화 서비스'를 오픈했다고 25일 밝혔다. 이 서비스는 LLM과 비전언어모델(VLM) 최적화를 지원한다.

이번 서비스의 최대 강점은 비용 효율성이다. 고객사는 기존에 사용하던 하드웨어를 그대로 유지하며 최신 LLM을 적용할 수 있어 추가적인 인프라 투자 부담을 덜게 된다.

노타, LLM 최적화 서비스 오픈 (사진=노타)

노타가 내세운 서비스 효과는 ▲다양한 칩셋 호환 ▲메모리 및 연산 효율 향상 ▲전력 및 클라우드 비용 절감 등이다. 복잡한 파라미터를 가진 LLM의 높은 최적화 난도를 극복하고 경량화를 통해 추론 속도와 성능을 모두 확보했다는 설명이다.

이 기술은 클라우드는 물론 온디바이스 환경까지 폭넓게 지원한다. 이에 따라 가전제품이나 모빌리티처럼 하드웨어 교체가 쉽지 않은 산업 분야에서도 최신 AI 서비스를 발 빠르게 도입할 수 있을 것으로 기대된다. 이 회사는 이번 서비스 오픈을 기념해 공식 홈페이지를 통해 무료 컨설팅 이벤트를 진행한다.

이미 노타는 정부의 'AI 국가대표' 프로젝트 팀으로 선정돼 기술력을 공인받았다. 더불어 최근 증권신고서가 통과돼 연내 코스닥 상장을 목표로 하고 있다.

채명수 노타 대표는 "LLM 최적화 서비스는 다양한 AI 모델을 실제 하드웨어에 최적화해 온 경험을 기반으로 개발됐다"며 "별도의 하드웨어 교체 없이 최신 언어모델을 안정적으로 적용해 비용 부담을 줄이고 동시에 한층 향상된 사용자 경험을 제공할 수 있다는 점에서 차별화된 의미가 있다"고 밝혔다.