솔트룩스(대표 이경일)가 기업용 특화 생성형 인공지능(AI) 서비스 개발을 통해 기업의 데이터 보안 강화에 나섰다.
솔트룩스는 온프레미스 환경에서 정보 유출 없이 내부 문서로 대답하는 기업용 AI 어플라이언스 '루시아 온'을 공개했다고 20일 밝혔다. 기업이 자사 시스템에 장착만 하면 바로 생성형 AI를 이용할 수 있는 제품이다.
루시아 온은 도서 약 420만권 분량의 한국어 데이터를 학습했다. 최근 오픈 거대언어모델(LLM) 리더보드에서 350억 파라미터 이하 기준 1위를 기록한 솔트룩스 언어모델 루시아를 기본 탑재했다. API 세트도 제공한다.
기업 고객은 추가 프로그램 개발과 기능 확장을 할 수 있다. 오픈AI의 '챗GPT'를 비롯한 미스트랄의 '미스트랄', 메타의 '라마' 등 타 오픈모델까지 연동 가능하다. 특히 검색증강생성(RAG)과 데이터를 벡터화하는 임베딩 기능도 지원한다. 이를 통해 생성형 AI의 걸림돌인 환각 현상을 최소화하고 신뢰도 높은 답변을 얻을 수 있다.
특히 노코드 방식의 웹 기반 관리 도구를 채택해 코딩을 몰라도 기본 관리와 모니터링이 가능하다. 솔트룩스 측은 "루시아 온 추가 구입으로 사용량 증가에도 유연하게 대처할 수 있어 도입 후 발생하는 운용 방안과 비용에 대한 우려까지 크게 낮췄다"며 "고객 서비스 자동화, 문서 요약 및 분석, 언어 번역, 콘텐츠 생성, 개인화 추천 시스템 구축 등에서 다양하게 활용될 것"이라고 밝혔다.
루시아 온 제품 구입은 공식 홈페이지에서 신청 가능하다. 현재 루시아 온에 탑재된 루시아 130억 파라미터 규모 모델은 영어와 한국어를 지원한다. 약 50명 정도가 활용할 수 있는 규모다. 대규모 시스템 구축 등 커스터마이징이 필요할 경우 별도 문의하면 된다.
관련기사
- 솔트룩스 AI 루시아, 오픈 LLM 리더보드 35B 이하 모델 기준 '1위' 수성2024.03.15
- 솔트룩스-핑거, 금융권 대상 생성형 AI 개발 착수2024.02.05
- 솔트룩스-NHN, AI 서비스 사업 본격화2023.11.14
- 솔트룩스, 사이버다임에 '루시아' 공급2023.10.25
일반적으로 기업이 맞춤형 AI를 도입하려고 할 경우 막대한 투자 비용은 물론 이를 운용할 수 있는 인재가 필수다. 챗GPT 등 일반 생성형 AI로는 기업 특화 답변을 얻을 수 없고 내부 데이터 유출에 대한 우려가 있어 기업에서 AI를 활용하기까지 실질적인 어려움 겪는 추세다.
솔트룩스 관계자는 "생성형 AI 도입을 고민하고 있으나 비용과 전문가 부족 및 보안 문제로 어려움을 겪던 전 세계 기업 및 기관들의 니즈를 빠르게 해결할 수 있을 것으로 기대한다"고 말했다.