"기업 LLM 도입, 가장 큰 장애는 내부역량"

임동진 투이컨설팅 전무, '엔터프라이즈 LLM 도입과 활용 세미나'서 설문 결과 발표

미국 마이크로소프트(MS)가 인공지능(AI)을 활용한 새로운 서비스와 제품을 21일(현지시각) 열린 자사 개발자 회의 '빌드(Build)'에서 50종 이상 공개, AI시장 확대에 나섰다. 이날 사티아 나델라 MS 최고경영자(CEO)는 "우리의 서비스들이 여러분 모두에게 새로운 기회를 제공할 것"이라고 강조했다. 1980년대 등장한 워드, 엑셀, 파워포인트처럼 AI가 개인과 직장인 업무에 새로운 편리함을 제공한다는 것이다. MS에 앞서 구글과 오픈AI도 새로운 AI서비스를 선보여 주목을 받았다.

AI기술이 발전하면서 기업과 교육, 공공 시장 등에서 주로 사용하는 거대언어모델(LLM, Large Language Model)인 이른바 '엔터프라이즈 LLM' 시장도 달아오르고 있다. 수요처 관심이 높아지면서 벤더(솔루션 공급사)들도 잇달아 제품을 내놓으며 선점 경쟁에 열심이다. 하지만 엔터프라이즈 LLM을 도입하려는 수요처는 막상 어디서부터 어떻게 해야 할 지 모르는 경우가 많다. 보안과 데이터 프라이버시, 정확성, 신뢰성, 통합 등 여러 문제를 고민해야 하기 때문이다.

임동진 투이컨설팅 전무가 기업의 LLM 도입 현황과 관련한 설문 조사 결과를 22일 열린 '엔터프라이즈 LLM 도입과 활용 세미나'에서 발표하고 있다.

투이컨설팅(대표 김인현)이 트러스트커텍터(대표 윤석빈)와 공동으로 22일 서울 강남 뱅뱅사거리 인근 드림플러스 이벤트홀(지하 1층)에서 개최한 '우리 조직에 맞는 엔터프라이즈 LLM' 세미나에 참석한 100여명을 대상으로 설문 조사한 결과 기업의 LLM 도입 가장 큰 장애요인은 내부 역량 문제가 77.8%로 가장 높았다. 이어 인프라 문제 (58.3%), 데이터 문제(38.9%), 예산 확보(27.8%), 대상업무 식별(33.3%), 전사 공감대(22.2%)순으로 나타났다.

LLM 도입에 관심이 가장 큰 산업군은 금융(33%)이였다. 이어 제조(14%), 공공(11%), 기타(42%) 순으로 집계됐다. 또 LLM을 도입하려는 이유는 "서비스 경쟁력 때문"이 52.8%로 가장 높았다. 고객경험(47.2%)과 직원생산성(47.2%), 내부 프로세스(44.4%)가 40% 이상을 차지했고, 미래주도 기술(38.9%), 소프트웨어 개발(22.2%) 순으로 조사됐다.

LLM 도입 형태는 sLLM이 36%로 가장 높았다. 자체와 외부를 합친 하이브리드 방식은 33%였다. 폐쇄형 LLM(17%)과 도메인 LLM(11%)은 20%가 채 안됐다. 기타는 3%였다. 특히 설문에 응한 사람들이 속한 기업의 25%는 이미 LLM을 도입해 활용하고 있고 개발(8%)과 준비(19%), 조사(42%)하고 있다는 순으로 답변을 했다.

세미나 현장에서 이번 설문조사 결과를 발표한 투이컨설팅 임동진 전무는 "LLM은 모든 산업의 관심사로 떠올랐다"고 짚으며 "LLM 도입은 안개 낀 날 골프의 티샷과 같다. 공이 어디로 갈지 모르지만 샷은 해야 한다. 준비할 것은 여분의 공이다. LLM 도입도 마찬가지다. 플랜B를 준비해야 한다"고 말했다.