AI 경력사원 '알리', 사무일 돕고 언어모델도 만든다

[SWxAI]⑤올거나이즈, AI 챗봇·LLM 개발 도구 지원

인공지능(AI)이 연구실을 넘어 산업에 스며들기 시작했습니다. AI는 전사적자원관리(ERP), 고객관계관리(CRM), 인적자본관리(HCM), 챗봇 등 기업용 소프트웨어(SW)에 들어섰습니다. AI는 여기서 SW 성능을 끌어올려 인력 비용을 줄이고 기업 생산성을 올렸습니다. [SWxAI]는 기업용 SW에 들어간 AI 역할과 강점을 취재해 보도하겠습니다. [편집자주]

---

인공지능(AI)이 사무 업무를 맡기 시작했다. 기업내 자료 검색부터 이메일 작성, 회의록 정리, 질의응답, 코딩까지 사람 대신 빠르고 효율적으로 처리한다. 기존 사무용 소프트웨어(SW)가 단순 업무 처리만 할 수 있었다면, 지금은 AI를 접목해 더 세밀한 업무를 수행할 수 있다.

올거나이즈는 AI 기술 개발을 사무 업무에 초점 맞춰 개발해 왔다. '알리'를 통해서다. 알리는 자연어 이해 AI 검색 솔루션이다. 기업 직원이 질문이나 필요한 자료를 물으면, 알리는 이에 대한 답변과 자료를 제공한다. 알리가 단순히 자료를 검색, 제공한다는 점에서 'AI 신입사원' 역할을 한 셈이다.

(사진=올거나이즈 홈페이지)

올거나이즈는 올해 알리를 업그레이드했다. 오픈AI 언어모델 GPT-3.5버전 API를 알리에 탑재해 '알리GPT'를 개발했다. 알리GPT는 기존 알리 기능뿐 아니라 답변을 요약하거나 내용까지 심층 분석해 내놓는다. 단순 자료만 찾던 알리가 분석까지 한다는 점에서 '경력사원'으로 진화한 셈이다.

이 기업은 '알리 LLM(거대언어모델) 옵스'를 이달 내놨다. 기업이 맞춤형 LLM을 구축할 수 있도록 돕는 솔루션이다. 기업 요구에 맞는 언어모델을 선택해 노코드 기반 애플리케이션을 만들 수 있고, 언어모델을 변경하는 것도 가능하다.

"알리, 문서 검색·추출해 요약 제공"

알리는 AI 인지검색 솔루션이다. 기업용 챗봇으로 생각하면 된다. 직원이 일상 언어로 필요한 자료를 검색하면, 알리가 이를 바로 찾아서 제공한다. 직원 업무 보조 역할을 하는 셈이다.

알리로 구축한 기업용 챗봇. (사진=올거나이즈 홈페이지)

알리는 일반 문서뿐 아니라 보험금 청구서, 감정평가서 등 서류 핵심 내용을 AI로 자동 추출해 정리할 수 있다. 답변에 대한 출처도 프리뷰 형태로 보여준다.

올거나이즈 관계자는 "알리에 내장된 AI는 사용자 질문에 대한 의도와 문맥을 파악할 수 있다"며 "자료 원본만 제공하는 것이 아닌 의도에 맞는 적절한 답변과 핵심 내용까지 제공한다"고 설명했다. 또 "동일한 내용을 다른 형태로 질문해도 정확한 결과를 제시한다"고 덧붙였다. 알리가 사용자 말귀를 알아듣는다는 의미다.

올거나이즈는 각 기업에 맞는 알리 솔루션을 만들어 공급한다. 챗봇에 필요한 산업군별 데이터나 정보를 규약에 맞게 크롤링한다. 그 후 기업 맞춤형으로 파인튜닝 한다. 이를 통해 AI 모델을 만든다.

AI 모델은 기업 보유 데이터, 자주 묻는 직원 질문으로 훈련받는다. 올거나이즈는 이 모델에 고객사 업계 전용어나 축약어, 전문어 등을 넣는다. 올거나이즈 측은 "AI 모델이 스스로 데이터를 라벨링 할 수 있는 기능을 갖춘다"며 "향후 추가 데이터 라벨링 작업 없이 바로 사용할 수 있다"고 강조했다.

올거나이즈 관계자는 "알리는 사내 IT 헬프데스크, 신입 및 경력 사원 교육, 법무팀 준법지원 적합성 진단 등 다양한 분야에서 활용할 수 있다"며 "서비스형 소프트웨어(SaaS), 온프레미스 형태뿐 아니라 이 둘을 혼합한 멀티 환경에서 작동한다"고 설명했다.

"알리GPT, 내용 분석도 할 줄 알아"

알리GPT는 기존 알리를 업그레이드한 버전이다. 알리에 오픈AI 언어모델 GPT-3.5 API를 연동했다.

알리GPT 작동 화면. (사진=올거나이즈 홈페이지)

알리GPT는 알리보다 답변 내용을 요약해 줄 뿐 아니라 분석하는 기능을 갖췄다. 사용자가 기업 산업군 주요 업계 동향이나 시장 트렌드를 물어보면, 알리GPT는 해당 내용을 스스로 분석해 답한다.

기업은 사내 정보에 변동이 있을 시 이를 알리GPT에 올리기만 하면 된다. 별도 프로그램 설치나 SW 툴은 필요 없다. 또 기업 문서나 매뉴얼, 최신 정보를 알리GPT에 바로 넣기만 하면 된다. 알리GPT는 이를 기반으로 심층적인 내용을 분석해 제공한다. 기업은 이를 통해 고객 문의나 사내 IT 헬프데스크 등을 자동화하는 방식으로 챗봇을 운영할 수 있다.

"알리 LLM 옵스, 기업 맞춤형 언어모델 만들어"

올거나이즈는 알리 LLM 옵스를 이달 출시했다. 알리 LLM 옵스는 기업에 맞춤형 LLM을 구축하게 돕는 솔루션이다.

알리 LLM 옵스가 모델 만드는 과정. (사진=올거나이즈 홈페이지)

기업은 돌리, 스테이블LM, 블룸 등 오픈소스 LLM을 알리 LLM 옵스에 적용할 수 있다. 이를 통해 기업 시스템에 LLM을 구축하면 된다. 올거나이즈 측은 "기업이 파라미터 30억~1천760억개로 이뤄진 오픈소스 LLM을 자유롭게 선택해 '나만의 모델'을 만들 수 있다"고 말했다.

올거나이즈 측은 "알리 LLM 옵스는 기업 환경에 맞춰 내부적으로 모델을 구축하게 돕는 솔루션"이라며 "머신러닝 과정에서 데이터 외부 유출을 막을 수 있고, 개인 정보 제어를 통해 보안을 강화할 수 있다"고 강조했다.

기업은 오픈AI GPT나 구글 바드 등 빅테크 기업 거대 LLM를 SaaS 형태로 활용할 수도 있다. 이때 알리 옵스는 거대 LLM을 기업 특성에 맞게 파인튜닝 한다. 이를 통해 기업 특화 프롬프트 엔지니어링 및 버전 관리가 상대적으로 용이하다.

이창수 올거나이즈 대표는 "사내구축형 LLM은 기업 데이터가 외부에 공개되는 것을 꺼리는 기업에 최적화된 형태"라며 "알리 LLM 옵스를 활용하면 기업 요구에 맞는 언어모델을 선택해서 노코드 기반 앱을 쉽게 만들 수 있고, 원할 경우 언어모델을 변경하는 것도 가능하다"고 설명했다.