"LLM 구축, '프로세스 GPT'가 해법"

장진영 유엔진솔루션즈 대표, 22일 드림플러스 지하에서 열리는 '우리조직에 맞는 엔터트라이즈 LLM 세미나'서 강연

인터뷰입력 :2024/05/10 06:44    수정: 2024/05/10 06:57

"이번 강연에서는 LLM(거대언어AI)을 이용한 정보시스템 구축 방향으로 '프로세스 GPT(Process GPT)'라는 시스템을 제시하려고 합니다."

장진영 유엔진솔루션즈 대표는 9일 지디넷코리아와 인터뷰에서 이 같이 밝혔다. 장 대표는 오는 22일 오전 10시~오후 6시 서울 강남 뱅뱅사거리 인근 드림플러스 이벤트홀(지하 1층)에서 열리는 '우리 조직에 맞는 엔터프라이즈 LLM 세미나'에서 연사로 나선다. 이 행사는 투이컨설팅(대표 김인현)과 트러스트커텍터(대표 윤석빈)가 개최하고 지디넷코리아가 후원한다. 데이터 유출같은 보안 문제와 비싼 API 사용료, 복잡한 인프라 구축, 내부 시스템 연계 어려움 등으로 LLM 도입을 주저하거나 LLM을 도입하려는 기업에 도움을 주기 위해 마련했다.

장 대표가 2007년 설립한 유엔진솔루션즈는 자체 오픈소스 BPM(Business Process Management) 제품인 '유엔진(uEngine)'을 주력으로 하고 있으며 금융, 공공, 제조, 통신 등 국내외에 100여개의 적용 레퍼런스를 보유하고 있다. 마이크로서비스아키텍처(MSA) 설계 컨설팅과 교육으로 8000명 이상 교육생을 배출하기도 했다. 지난 3월에는 5년간 개발한 'MSA Easy'를 오픈소스로 공개했다. 'MSA Easy'는 사용자만의 프로그램을 만들거나 기존 프로그램을 개선하는 걸 돕는다. 자체 제품화나 사내 시스템 구축에 도움이 된다. 특히 클라우드 기반 애플리케이션 개발을 간소화해준다.

오는 22일 강연에 대해 장 대표는 "기존 정보시스템들은 사용 관점과 관리 관점으로 나뉘어 많은 비용이 존재한다. 사용자 관점에서는 주로 사용자가 정해진 시스템의 특징과 사용방법을 잘 숙지하고 사용해야 했다"면서 "LLM은 자연어를 기반해 사용자 의도와 상황을 추측해 시스템의 어떤 기능과 화면을 이용해 입력해야 하는지를 자동화할 수 있다. 적절한 업무 처리를 위한 초안은 LLM 에이젼트 기술이 직접 수행해 초안을 제공할 수 있다. 예를 들어 제안서를 써야한다면, 해당 주제와 관련한 기존 사내 지식을 RAG(Retrieval-Augmented Generation, 검색증강생성: 응답 생성전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스)를 통해 수집하고 외부 인터넷 검색 결과를 참고해 기본 제안서를 작성하는데 LLM 도움을 받을 수 있다"고 설명했다.

장진영 유엔솔루션즈 대표

이어 그는 시스템관리 관점에서는 기존 프로그래밍에 의존해 데이터베이스 설계, 화면 구현, 로직 구현 등 많은 전문성이 요구된다면서 "이러한 과도한 정보시스템 구축비용을 낮추기 위한 로우코드와 노코드, RPA(Robotic Process Automation, 로봇프로세스자동화)등 많은 시도와 최근의 LLM을 이용한 코드 생성 등이 새로운 가능성으로 부상하고 있다"면서 "하지만 여전히 그 결과는 어떠한 코드 형태로, 특히 이를 관리하기 위해서는 어떤 형식이든 소스코드를 이해해야 하는 비용이 존재한다"고 짚었다.

LLM을 이용한 정보시스템 구축 방향으로 'Process GPT'를 강조한 장 대표는 이의 장점으로 "사용자 관점에서는 내 업무 상황을 인지해 프로세스와 업무처리 기능을 자동으로 제시할 뿐 아니라 복잡한 정보시스템 화면 숙지로 입력이 아닌 자연어로 업무 결과를 입력하며, 또 내가 처리할 업무의 초안도 제시해준다"고 말했다. 

이어 "시스템을 관리할때는 소스코드 없이도 일반 업무 전문가가 업무 프로세스와 비즈니스 규칙, 그리고 업무화면 등을 업무 수행중 발생한 대화 이력에서 자연스럽게 추출하고 그 프로세스를 비즈니스 유저 수준에서 이해하기 쉬운 BPMN과 같은 비쥬얼한 언어로 시각화해 LLM 실행엔진에서 해당 규칙을 관리할 수 있게 하는 하는 새로운 개념의 정보시스템 구축 방법"이라면서 "이 방법은 기존 BPM(Business Process Management)에서 나온 개념으로 LLM 파워와 함께 정보시스템 구축을 위한 데이터베이스 설계, 프로세스 설계 실행, UI 개발 등 상당 부분을 추상적으로 처리하면서도 업무 모니터링, 분석, 지속 개선 사이클을 가져갈 수 있는 많은 부가적인 장점을 갖고 있다"고 강조했다.

국내외 엔터프라이즈 LLM 시장 동향에 대해서는 "해외 엔터프라이즈 솔루션들은 정보시스템 구현과 관리를 위한 로우코드, RPA, BPM 제품이 우리 회사와 같은 코그너티브(Cognitive) RPA/BPM 형식으로 출시돼 향후 많은 시장을 형성할 것으로 보인다"면서 "관전포인트는 얼마나 사용자 위주 쉬운 인터페이스와 관리비용을 낮출 수 있고 또 핵심적인 비즈니스 경쟁력을 위한 LLM의 적절한 적용 솔루션을 제시하는냐"고 진단했다.

기존 정보시스템은 사용과 관리에 있어 너무 과중한 학습시간과 전문적 비용이 소요된다고 짚은 그는 "LLM은 시스템 사용에 대한 추상화레이어를 제공해 "이제 우리가 배워야 할 가장 강력한 언어는 자연어”라고도 한다"면서 "LLM을 본질적인 의사결정에 적용할수는 없지만 기업의 불필요한 업무를 최소화하고, 또 초안 작성과 프로세스를 자동으로 개선하는 등의 비생산적인 영역에 도입함으로써 고객과 국민 만족도를 향상하는데 도움을 받을 수 있다"고 짚었다.

보안 이슈 등 엔터프라이즈 LLM 확산에 여러 기술 및 기업문화 이슈가 있는데 이에 대해서는 "대내 보안은 RAG 등으로 검색한 다양한 참조 정보 출처에 대한 메타데이터에 따른 인가처리가 중요하다"면서 "대외 보안은 폐쇄형 LLM을 적절히 적용해 외부로의 유출을 막아야 한다. BPM 기반 정보시스템은 기본적으로 대내외 프로세스에 대한 역할 기반 인증체계와 보안 프로세스를 엄격히 관리하고 전달하는 접근 권한에 대한 룰 기반 제어가 엄격해 보안을 관리할 수 있는 좋은 수단이 될 수 있다"고 밝혔다.

관련기사

LLM과 생성 AI를 활용한 기업의 수익화 방안에 대해서는 "내부 생산성 향상을 넘어 LLM 자체로수익화를 내는 건 더욱 큰 숙제"라며 "AI기술 전반에 있어 기계가 모든 것을 다 수행하는 듯한 화려한 기능의 제공 보다는 인간이 의사결정을 쉽게 할 수 있는 조력 역할로 시스템의 UI/UX와 함께 적은 에너지로 높은 성과를 낼 수 있게 가치를 제공하는 것이 중요하며 그 가치가 높다면 수익화는 자연스레 따라올 것"이라고 예상했다.

AI 강국에 대해 한마디 해달라고 하자 장 대표는 "어려운 질문"이라고 전제하며 "AI는 일종의 인프라가 되고 있다. 전기처럼 아무나 쓸 수 있는 기반이 된 거다. 이제 기반 고속도로를 제공하는 자본기반 비즈니스 모델과 그 기반위에 차별화한 버티컬 영역이나 탁월한 사용성 등으로 경쟁하는 비즈니스 모델로 양극화 될 것 같다. 우선 내가 가진 콘텐츠 장점을 잘 이해하고 그것이 AI를 통해 더 큰 강점이 될 수 있는 전략을 잘 세워야 할 것 같다"고 말했다.