"우리 조직에 맞는 LLM 찾아줍니다"···다음달 22일 전문가 세미나

강남 드림플러스서 열려...데이터 유출 등 보안 문제와 비싼 API 사용료, 복잡한 인프라 구축, 내부 시스템 연계 다뤄

AI열풍 속에 기업과 교육, 공공 시장 등에 최적화한 거대언어모델(LLM, Large Language Model)인 이른바 '엔터프라이즈 LLM' 시장도 달아오르고 있다. 엔터프라이즈라 불리는 이들 수요처의 관심이 높아지고 있는 가운데 벤더(솔루션 공급사)들도 잇달아 제품을 내놓고 있다. 하지만 엔터프라이즈 LLM을 도입하려는 수요처는 관심은 크지만 어디서부터 어떻게 해야 할 지 모르는 실정이다. 여기에 데이터 프라이버시와 보안, 정확성, 신뢰성, 통합 등 여러 문제도 고민해야 한다. 기업의 이런 고민을 해결 해 줄 '엔터프라이즈 LLM 세미나'가 다음달 22일 열린다.

투이컨설팅(대표 김인현)과 트러스트커텍터(대표 윤석빈)는 오는 5월 22일 오전 10시~오후 6시 서울 강남 뱅뱅사거리 인근 드림플러스 이벤트홀(지하 1층)에서 '우리 조직에 맞는 엔터프라이즈 LLM'을 주제로 유료 세미나를 개최한다고 11일 밝혔다.

본격적인 생성AI 시대를 맞이해 기업도 자체 AI서비스를 제공하기 위해 소형언어모델(sLLM)을 구축하려는 움직임이 늘고 있다. 하지만 데이터 유출 등 보안 문제와 비싼 API 사용료, 복잡한 인프라 구축, 내부 시스템 연계 어려움 등 여러 이슈로 도입이 지연되거나 시험테스트(PoC) 형태로만 진행되고 있는 것이 현실이다.

■ 엔비디아 본사서 H100개발 경험 한국 개발자 스테펀 조가 영상으로 인사이트 제공

이번 세미나는 챗GPT의 환각(hallucination) 문제를 해결하고 회사 내부 데이터를 sLLM에 연결하는 효과적인 방법과 sLLM 도입 시 발생하는 각종 이슈를 어떻게 해결할 수 있는 지에 대한 현실적인 방안을 모색하기 위해 마련했다. 국내 정상급 AI 전문가들이 한자리에 모여 세션 발표와 패널 토의를 한다. 특히 엔비디아 본사에서 H100 GPU 개발에 참여한 한국 개발자인 스테펀 조(Stephen Cho)가 영상을 통해 인사말과 함께 최근 주목받는 AI 반도체와 생성 AI에 대한 통찰(인사이트)을 제시한다.

행사 첫 번째 발표는 한국마이크로소프트(한국MS) 이건복 상무가 '생성AI 동향과 엔터프라이즈 LLM 구현'을 주제로 발표, 최근 생성AI 시장에 대한 주요 현안을 설명하고 기업 대상 엔터프라이즈 LLM 구축과 활용 사례를 제시한다.

이어 래블업 신정규 대표가 '우리 조직에 맞는 엔터프라이즈 LLM 구축 방안'을 주제로 발표하고 셀렉트스타 황민영 부대표는 '엔터프라이즈 LLM 도입 전략:빅테크 vs. 오픈소스'를 주제로 빅테크와 오픈소스 LLM 도입 시 장단점 분석과 우리 기업에 맞는 효과적인 도입 전략을 소개한다.

또 BI매트릭스 배영근 대표가 '엔터프라이즈 LLM:LCNC 적용 사례와 활용 전략'을 주제로 담당자가 AI와 대화를 하듯이 기업 데이터베이스에서 데이터를 조회하고, 이를 바탕으로 노코드 로코드로 AI 서비스를 개발한 실제 적용 사례를 설명한다.

■ KAIST 장동인 교수 등 참여 전문가 패널 토의서 심도있는 대안 제시

 오후 세션에서는 트러스트커넥터 대표 겸 서강대 특임 교수인 윤석빈 대표 사회로 펑션투웰브 박승호 대표, KAIST 장동인 교수, T3Q 박병훈 대표 등이 참여해 '엔터프라이즈 LLM 도입시 발생 이슈와 해결 방안'을 주제로 50분 동안 패널 토의를 벌인다. 패널 토의에서는 엔터프라이즈 LLM 도입 필요성과 기존 시스템과의 연계 방안, 인프라, 비용 등에 대한 내용이 심도있게 다뤄질 예정이다.

패널 토의 이후에는 유엔진 솔루션즈 장진영 대표가 '엔터프라이즈 LLM 활용한 비지니스 프로세스 관리 혁신 상세 방안'을 또 포티투마루 김동환 대표가 '언어 인공지능 상용화 사례 및 RAG, LLM 도입 전략'을, 법무법인 디엘지 조원희 대표 변호사가 'EU AI 법이 국내에 미치는 영향'을 주제로 각각 발표한다.

세미나를 주최한 투이컨설팅 김인현 대표는 "기업용 sLLM의 중요성이 강조되는 최근 추세와는 달리 국내 기업이 이를 어떻게 도입하고 활성화할 방법은 아직 미미하다"면서 "세미나 이후에도 학계 및 업계 전문가들과 함께 생성AI 시대에 부합하는 LLM 도입 및 활성화 방안을 고민하고 투이컨설팅 유튜브 채널인 '투이톡(youtube.com/@2eTalk)'을 통해 내용을 공유하겠다”고 밝혔다.

세미나 참가 신청은 트러스트커넥터 홈페이지(www.trustconnector.site)에서 하면 된다. 1차 등록 마감은 이번달 30일까지다.

한편 투이컨설팅(대표 김인현)은 1996년 3월 설립이래 대한민국의 대표 기업들에게 차세대 시스템 구축, 데이터 통합, 정보전략계획, 프로세스 혁신, 소프트웨어 아키텍처, 프로젝트 관리, IT거버넌스, 엔터프라이즈 아키텍처, 비즈니스 프로세스 관리 등의 선진 서비스를 제공해왔다. 김 대표는 "어제보다 더 나은 미래를 제시하고 고객 성공을 위해 실질적인 대안을 제시하며 고객과 함께 성과를 만들어가는 지식 전문가 집단"이라면서 "해외의 베스트 프랙티스를 국내 기업에 단순 적용하는 차원을 넘어 국내 기업의 비즈니스 환경과 업무 프로세스에 대한 깊은 이해와 통찰 그리고 선진 기업의 프로젝트 경험에서 우러나온 콘텐츠 능력을 바탕으로 고객 문제를 가장 적절하게 해결하는 IT 컨설팅 서비스를 제공하고 있다"고 말했다.

공동 주관사인 트러스트커넥터(대표 윤석빈)는 자체 보유한 AI 알고리즘 및 B2B 컨설팅 역량을 활용해 수요처와 공급처 간 서비스를 매칭하는 '생성형 AI Business Matching' 서비스를 제공하고 있다. 윤 대표는 "고객이 서비스 요청 사항을 등록하면, AI 기술 회사는 해당 고객의 요구 사항에 맞는 공급처를 제공한다"면서 "이 서비스 역할을 AI 기술회사가 수행함으로써 고객 요청에 따른 새로운 해결책을 제안해 준다"고 밝혔다.