"기업경쟁력, LLM 도입보다 데이터 활용이 더 중요"

이건복 한국MS 개발리더 22일 열리는 '우리 조직에 맞는 엔터프라이즈 LLM' 세미나서 강연

"오는 22일 강연에서는 생성AI(Generative AI)를 이용해 기업이 어떤 방식으로 직원 창의성과 생산성을 높이거나 도울 수 있는 지 말하려 합니다."

이건복 한국마이크로소프트(한국MS) 개발(디벨로퍼) 리드는 16일 지디넷코리아와 인터뷰에서 이 같이 밝혔다. 이 리드는 오는 22일 오전 10시~오후 6시 서울 강남 뱅뱅사거리 인근 드림플러스 이벤트홀(지하 1층)에서 열리는 '우리 조직에 맞는 엔터프라이즈 LLM' 세미나에서 발표한다.

이 행사는 투이컨설팅(대표 김인현)과 트러스트커텍터(대표 윤석빈)가 개최하고 지디넷코리아가 후원한다. 데이터 유출같은 보안 문제와 비싼 API 사용료, 복잡한 인프라 구축, 내부 시스템 연계 어려움 등으로 LLM 도입을 주저하거나 LLM을 도입하려는 기업에 도움을 주기 위해 마련했다.

이 리드는 "생성AI는 기존 데이터에서 새로운 정보나 콘텐츠를 생성하는 AI 기술이다. 텍스트, 이미지, 음악, 비디오 등 다양한 형태 콘텐츠를 자동으로 만들거나 수정할 수 있다. 이런 기술은 직원의 작업 부담을 줄이고, 새로운 아이디어를 제공하며, 품질을 향상시킬 수 있다"면서 "22일 발표에서는 사례를 통해 글로벌 기업들이 어떤 방식으로 AI를 적용했는지 소개할 것"이라고 말했다.

이 리드는 한국MS 솔루션 사업부에서 'Digital & App Innovation'팀을 맡고 있다. 기업 혁신과 AI를 이용한 앱(App)개발에 도움을 주고 있다. 마이크로소프트(MS) 미국 본사는 시애틀 인근 레드몬드에 있으며 AI기반 플랫폼과 도구를 개발, 고객의 변화하는 요구에 부응하는 혁신적인 솔루션을 제공하고 있다. "마이크로소프트(MS)는 AI를 널리 보급하고 책임감 있게 사용하기 위해 노력하고 있다"면서 "지구상의 모든 사람과 조직이 더 많은 성취를 이룰 수 있게 돕는 걸 사명으로 삼고 있다"고 설명했다.

이 리드는 국내 엔터프라이즈 LLM(Large Language Model) 시장이 "아직 초기 단계"라고 짚었다. 이어 "엔터프라이즈 LLM이 일반 LLM과 차이가 크다고 보기 어렵지만 보안이나 환각(할루시네이션) 현상 부분은 더 민감한 영역이므로 이에 대한 안정성 측면에서 고려할 사항이 많고 산업에 특화한 모델 필요성이 있다"면서 "많은 기업이 관심을 갖고 있지만 상대적으로 이런 모델을 개발하거나 활용하는 기업이나 기관이 많지 않다"고 해석했다. 이의 주요 이유로 데이터 부족, 개인정보 보호, 모델 안정성, 윤리 문제든 그는 "이번 강연에서 글로벌 기업의 LLM 활용방법과 기술 수준을 소개하고, 생성형 AI을 활용해 생산성을 향상시킬 수 있는 방법과 사례도 공유하려 한다"고 밝혔다.

이건복 한국MS 개발리드가 올 3월 열린 한 행사에서 발표를 하고 있다.

 해외 엔터프라이즈 LLM 시장은 모델을 공급하는 기업 뿐 아니라 인프라스트럭처(인프라), 플랫폼, 응용프로그램(애플리케이션), 서비스를 제공하는 계층으로 나눠져 있다. "기업입장에서는 LLM을 직접 만들기 보다 이미 나온 LLM을 잘 활용하는 측면이 강하다"면서 "자연어를 이용한 새로운 정보 검색과 자동화 솔루션과 접목해 고객대응 시스템에 생성형 AI를 적용한 사례는 이미 널리 사용되고 있다. 초기에 AI에 투자를 한 기업들이 의미 있는 성과를 보이고 있는 점도 시사하는 바가 크다"고 말했다.

이 리드는 엔터프라이즈(기업, 공공, 교육 등) 시장이 LLM을 도입하고 활용해야 하는 이유에 대해 "이미 AI는 모든 산업을 변화시키고 있다. B2B영역에서는 생산성의 비약적인 증가를 꼽을 수 있다. 또 높아진 생산성을 통해 직원 업무 만족도를 향상시킬 수 있을 뿐 아니라 업무 효율성도 증가시킬 수 있다. 이것은 바로 매출 및 고객증가와 연결돼 있다"면서 "B2C영역에서는 생성AI의 초개인화(Hyper-Personalization) 기능을 통해 고객에게 맞춤형 서비스를 제공할 수 있다. 이 점 역시 생성AI를 기업이 도입해야 하는 이유"라고 진단했다.

엔터프라이즈LLM가 지금보다 확산하려면 보안과 여러 기술 및 기업문화 이슈를 해결해야 하는데 이 리드는 "이미 안전한 AI를 사용하기 위한 제반 기술 요건은 LLM을 공급하는 업체들이 갖고 있다"면서 "마이크로소프트(MS)의 경우 애저(Azure) 클라우드 환경을 통해 보안을 강화한 시스템 위에 LLM 서비스를 운영할 수 있게 제공하고 있다. 또 책임있는 AI(Responsible AI) 서비스 일환으로 AI응답을 모니터링 하기위한 '콘텐츠 안전(Contents Safety)' 기능도 제공하고 있다"고 밝혔다. 

이어 "(MS는) 고객 데이터를 이용해 LLM 개선 학습을 진행하지 않고 프롬프트 데이터 역시 철저한 보안 정책을 통해 안전하게 사용할 수 있게 하고 있다"면서 "무작정 금지하기 보다 강화한 보안정책에 잘 적용할 수 있는 LLM을 활용하는 방안을 찾는 문화가 먼저 정착해야 한다"고 제안했다.

특히 이 리드는 거대 테크기업간 자본 싸움이 된 세계 AI시장에서 국내외 스타트업이 생존하기 위한 '비법'도 제시했다. "특정 LLM 종속성과 데이터 국외 유출에 대한 과도한 우려로 LLM도입을 늦추기 보다 잘 활용할 수 있는 방안을 먼저 고민해야 한다. 한국에 특화한 LLM을 개발하는 것은 장기 관점에서 반드시 필요한 일"이라면서 "하지만 모든 기업이 자체 LLM을 개발하는 것보다 우선 LLM을 잘 활용할 수 있는 방안을 고민하는 것이 먼저"라고 지적했다.

 이어 "LLM은 좋은 도구다. 하지만 LLM이 모든 기업의 목적이 돼서는 안 된다"면서 "LLM자체 보다 활용에 먼저 집중을 하면 기업 규모에 관계없이 소비자가 원하는 서비스와 가치를 만들어 낼 수 있을 것"이라고 밝혔다. 이어 아무리 좋은 레시피(조리법)가 있어도 재료가 좋지 않거나 없다면 맛있는 음식을 만들 수 없는 것처럼 LLM을 사용할 때 양질 데이터가 없다면 결코 좋은 AI서비스를 만들 수 없다면서 "AI를 잘 사용하기 위해서는 좋은 데이터와 다량의 데이터는 필수다. 근본적인 경쟁력은 LLM도입 그 자체가 아니라 얼마나 데이터를 잘 활용하느냐가 경쟁력을 확보하는데 더 중요한 요소"라고 강조했다.