메가존클라우드 "기업 생성형 AI 도입, '관망'에서 '관리' 영역으로 진화"

[디노2024] 공성배 센터장 "젠AI360 新 버전으로 …RAG 도입으로 데이터 신뢰 ↑"

"기업들이 생성형 인공지능(AI)을 도입하는 데 있어 환각 현상을 줄이는 것이 반드시 필요합니다. 조만간 선보일 '젠AI360 버전2(GenAI360 v2)'가 이같은 기업들의 고민을 해결해 줄 것입니다."

공성배 메가존클라우드 AI·데이터분석센터장은 10일 서울 강남구 코엑스에서 개최된 'SaaS 서밋 2024(SaaS Summit 2024)'에 연사로 참석해 이달 말께 '젠AI360'의 새로운 버전을 공개하며 기업 고객 공략에 속도를 내겠다는 의지를 밝혔다.

공성배 메가존클라우드 AI·데이터분석센터장은 10일 서울 강남구 코엑스에서 개최된 'SaaS 서밋 2024(SaaS Summit 2024)'에 연사로 참석했다. (사진=장유미 기자)

'젠AI360'은 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 엔드 투 엔드 서비스로, 지난해 9월 처음 론칭됐다. 기존 버전은 ▲기업의 생성형 AI 활용 전략 수립 및 파일럿 과제 수행 등 컨설팅 ▲기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 ▲기업 내 활용 대상 서비스 개발 및 가이드 제공 ▲생성형 AI 운영 전략 수립 및 서비스 운영 등으로 구성된다.

이번에 선보이는 새로운 버전은 검색증강생성(RAG) 기능을 적용해 좀 더 간편하고 정확하게 질의응답 할 수 있는 플랫폼으로 구현함으로써 기업 고객들이 원하는 답변을 제대로 도출할 수 있도록 지원하는 것이 특징이다. 주요 질문 유형에 대해 프롬프트 엔지니어링을 적용해 신뢰할 수 있는 답변을 생성함으로써 기업들은 업무를 더 효율적으로 할 수 있게 된다. 

공 센터장은 이날 '비즈니스 혁신을 이끄는 생성형 AI, 고객 경험으로 본 가능성'을 주제로 발표하며 "2022년 말 '챗GPT' 등장 후 생성형 AI가 굉장히 주목 받게 되면서 기업들이 이를 적용하는 것에 대한 고민이 많았다"며 "지난해까진 많은 기업들이 적용하는 부분에 대해 대체적으로 '관망'하는 분위기였지만, 이제는 '관리'하는 영역으로 넘어오면서 자사 데이터와 결합하려는 곳들이 많아지고 있다"고 말했다.

이어 "조직 차원에서 생성형 AI를 활용하는 것을 받아 들이고 1~2개 업무 프로세스와 연계해 자사 데이터를 활용하는 방안을 추진하는 기업들이 많아지고 있다"며 "각 기업들이 지속적으로 생성형 AI를 활용하기 위해선 ▲비정형·정형 데이터 ▲기존 전사적자원관리(ERP) 시스템이나 데이터 웨어하우스에서 잘 정의된 데이터 ▲웹에서 크롤링한 데이터 등 세 가지 잘 버무릴 수 있어야 한다"고 덧붙였다.

공성배 메가존클라우드 AI·데이터분석센터장은 10일 서울 강남구 코엑스에서 개최된 'SaaS 서밋 2024(SaaS Summit 2024)'에 연사로 참석했다. (사진=장유미 기자)

공 센터장은 이를 고려해 만들어진 '젠AI360 버전2'가 기업들의 제조 현장 업무 생산성을 더 강화시켜 줄 것이라고도 자신했다. 또 이커머스 플랫폼의 검색 및 추천 기능을 강화시키는 데 도움을 줄 뿐 아니라 B2C(기업간소비자거래) 지식 제공 서비스 지식 상품을 생성하는 데도 적극 활용될 수 있다고 설명했다.

공 센터장은 "현재 19개 기업과 관련 프로젝트를 진행해 본 결과 각각의 기업들이 적용하는 것이 다르다는 점과 내부에 이식하는 데 4~6주 정도 걸린다는 점을 파악할 수 있었다"며 "각 기업 맞춤 서비스를 제공하는 동시에 적용 기간을 단축할 수 있도록 PaaS(서비스형 플랫폼) 형태로 애플리케이션을 만들어 선보이게 됐다"고 말했다.

이를 앞세워 메가존클라우드는 앞으로 성장성이 높은 기업용 생성형 AI 시장에서 다양한 사업 기회를 잡겠다는 전략이다. 시장조사기관 가트너에 따르면 오는 2026년까지 기업 80% 이상이 생성형 AI를 적용해 사용할 것으로 예상됐다. 지난해 생성형 AI를 활용한 기업은 5% 미만이었다.

공 센터장은 "생성형 AI 시장은 많은 새로운 서비스와 제품을 출시하고 있는 상황으로, 이를 위한 다양한 에코시스템 구성도 필요해졌다"며 "오픈소스 관심도 지표상 관련 생태계 기술 또한 기반 모델에서 응용·인프라(SaaS, PaaS) 부분으로 빠르게 전환하고 있다"고 설명했다.

그러면서 "올해는 생성형 AI와 관련해 기업들이 구체적 실증 사업을 실행하고 기술·활용 역량을 내재화 하는데 집중하는 분위기"라며 "기업들이 생성형 AI를 도입하기 위해 고려하는 방법은 다양하겠지만 자사가 선보이는 '젠AI360 버전2'를 도입하면 좋은 결과물을 내놓을 수 있는 데이터를 최적의 비용으로 잘 활용할 수 있을 것"이라고 덧붙였다.