인스웨이브시스템즈, LLM 기반 W-토크앱 출시

인스웨이브시스템즈(대표 어세룡)가 생성형 인공지능(AI) 모바일 애플리케이션을 '온디바이스 AI'로 출시했다고 28일 밝혔다.

W-토크 앱은 웹스퀘어에 대한 전문가 수준의 답변, 관련 코드 예제 생성 기능과 함께 저성능 기기를 위한 서버 기반 LLM 챗봇 서비스도 제공한다. 앱을 통해 인스웨이브 제품군 문의에 대한 답변을 고품질의 자연스러운 대화 형태로 지원하여 사용자 만족도를 향상시킬 전망이다.

W-토크 앱은 온디바이스 AI를 통한 AI 챗봇 서비스로 인스웨이브의 독자적 기술을 적용한데 차별화된 의의가 있다.

온디바이스 AI는 서버를 거치지 않고 스마트폰과 개인용컴퓨터(PC) 등 단말기 내부에서 대형언어모델(LLM)을 실행하는 방식을 말한다. 멀리 떨어진 서버를 활용하지 않는 만큼 개인 스마트폰에서 맞춤형 기능을 활용할 수 있는 게 특징이다.

또한 단말 기기 내부에서 정보를 처리하기 때문에 저지연을 통한 빠른 작업이 가능하다. 중앙 서버를 통하지 않기 때문에 클라우드 기반 AI의 문제점으로 대두되었던 보안 문제도 해결할 수 있다.

이 기술을 통해 사용자가 질문한 맥락을 정확하게 파악하고 관련 정보를 개발 가이드, API, 예제, 지식DB 등의 자료 기반으로 답변하도록 구현했다. 기존 단순 검색 방식에서 맥락 파악과 문의와 답변 형태의 정보 전달로 보다 쉽고 효율적인 차세대 검색 기술을 지원한다.

또한, W-토크 앱 개발에 활용된 LLM, 유사도 검색, 임베딩 기술은 'W-매트릭스 포 모바일' 플랫폼에 통합되어 자체 온디바이스 LLM 애플리케이션을 개발하고자 하는 기업들에게 판매될 예정이다.

인스웨이브 관계자는 “인스웨이브의 다양한 솔루션들이 국내외에서 활용되고 있다”며, “이번 W-토크 앱 출시를 통해 개발자들이 필요한 정보를 더욱 빠르고 정확하게 얻을 수 있도록 지원하고자 했다”고 전했다. 또한 “이로써 개발자들이 개발 과정에서 큰 도움을 받을 수 있을 것으로 기대한다”며, “제품 판매뿐만 아니라 사용자 서비스 품질 향상을 위한 다양한 기술지원 콘텐츠 제공에도 집중할 예정”이라고 밝혔다.