스타트업이 챗GPT로 사업하는 노하우 대방출

한국마이크로소프트, '마이크로소프트 스타트업 서밋 - 젠AI 로드쇼' 개최

생성형 인공지능(AI)으로 사업하는 스타트업들이 한자리에 모였다. 챗봇부터 고객 상담, 데이터 분석, 사회 복지, 교육 분야 등에 AI를 적용한 사례를 공유했다. 모두 마이크로소프트 애저 오픈AI를 통한 비즈니스 노하우다.  

우아한형제들, 쏘카 등 10개 스타트업은 26일 서울 강남구 모스스튜디오에서 열린 '마이크로소프트 스타트업 서밋 - 젠AI 로드쇼'에서 애저 오픈AI를 활용한 비즈니스 사례를 발표했다. 

현장 참관객은 당초 예상했던 250여명을 훌쩍 넘었다. 좌석이 모자랄 정도로 붐볐다.

AI를 통한 사업 전략도 공유했다. 한국마이크로소프트는 챗GPT를 비즈니스에 효율적으로 사용할 수 있는 강연도 진행했다. 

한국마이크로소프트 고광범 게이밍 및 디지털 네이티브 부문장.

한국마이크로소프트 고광범 게이밍 및 디지털 네이티브 부문장은 행사 인사말을 통해 "생성형 AI 시장이 본격적으로 확장하는 시대가 왔다"며 "마이크로소프트는 스타트업과 손잡고 거대언어모델(LLM)과 AI를 통한 비즈니스 성과를 이룰 수 있도록 노력하겠다"고 전했다.  

메뉴 추천부터 고객 응대 품질까지 업그레이드

이날 스타트업은 AI를 활용한 비즈니스 노하우를 다양하게 소개했다. 우아한형제들은 GPT로 사용자 상황에 맞는 메뉴를 추천하는 '배민GPT'를 이달 17일 처음 선보였다고 발표했다. 올해 6월부터 이달까지 애저 오픈AI 서비스를 통해 구축한 챗봇이다.

예를 들어, 사용자가 배민GPT에 '가족과 비 오는 날 먹을 만한 음식'이라고 검색하면, 배민GPT는 이에 맞는 메뉴를 추천해 주는 식이다.

우아한형제들 오혜진 팀장.

배민GPT는 고객 리뷰 데이터로 학습했다. 우아한형제들 오혜진 팀장은 "그동안 고객이 배민 리뷰에 작성한 글 맥락 속 키워드를 활용했다"고 설명했다. 오혜진 팀장은 "사용자가 간장치킨을 먹고 리뷰를 달 때 '치킨이 바삭해서 자주 시켜 먹어요. 아이들이 잘 먹어요'라고 작성하면, 배민GPT는 여기서 '바삭' '자주' '아이들이 잘 먹는'을 키워드로 뽑아 모델에 훈련했다"고 설명했다.

정육각은 애저 오픈AI 서비스로 고객 리뷰 작성을 돕는 기능을 고도화했다. 사용자가 리뷰를 작성할 때, GPT가 적절한 문구를 추천해 주거나 잘 쓴 리뷰를 제안하는 식이다. 사용자는 문구를 받아 수정만 하면 된다. 

정육각 박준태 최고기술책임자.

정육각 박준태 최고기술책임자(CTO)는 "일일이 리뷰 쓰는 과정은 상당히 번거로운 일"이라고 했다. 그는 "단순히 '맛있다' '신선하다'는 단순한 리뷰보다는 좀 더 구체적인 리뷰가 많이 달리길 바라는 마음에 리뷰 시스템에 GPT를 탑재했다"고 밝혔다.

쏘카는 애저 오픈AI 서비스로 고객 상담 시스템을 고도화하고 있다. 고객 문의를 빠르고 정확하게 해결하는 게 주요 목표다. 쏘카 박경호 AI팀 팀장은 "시나리오 기반 언어모델을 응대 시스템에 적용했다"고 설명했다. 

고객이 자연어로 간단한 내용을 물어볼 경우, 이를 AI 상담사가 바로 처리하는 방식이다. 만약 AI가 이해하지 못하거나 긴급할 상황일 경우, 인간 상담사에게 넘겨지는 시나리오다. 

쏘카 박경호 AI팀 팀장.

박경호 팀장은 "인간 상담사가 응대를 마치면, 해당 내용을 데이터화해 VOC 분석에 대한 지표로 활용되도록 설계했다"며 "쏘카 고객 상담 응대 시나리오를 더 고도화할 수 있다"고 강조했다.

핀다는 생성형 AI를 고객 문의 사항이나 FAQ 콘텐츠 개발에 활용했다고 발표했다.

핀다 서희 CTO는 "보통 이같은 콘텐츠를 개발하려면 고객 데이터를 가공해야 한다"며 "고객의 니즈와 감정에 대한 데이터를 분석하고, 관련 키워드까지 뽑아내야 한다"고 설명했다. 핀다에서는 데이터 사이언티스트가 이를 일일이 진행했다.

현재는 데이터 전문가가 아닌 고객경험(CX)팀이 한다. 이 팀은 애저 오픈AI 서비스를 통해 전문가 지원 없이 데이터 분석을 할 수 있다. 서희 CTO는 "생성형 AI를 통해 높은 수준의 고객 데이터를 누구나 쉽게 분석할 수 있다"며 "이를 통해 고객 문의사항이나 FAQ 콘텐츠 개발을 보다 원활히 수행할 수 있다"고 전했다.

참관객들이 스타트업 비즈니스 사례를 듣고 있다.

원지랩스는 GPT 모델로 상담 플랫폼 범위를 확장했다고 강조했다. 기존에는 타로 플랫폼만 운영했다. 현재 MBTI, 사주, 연애상담 플랫폼까지 한 앱에서 운영한다. 

곽근봉 원지랩스 대표.

곽근봉 원지랩스 대표는 "올해 2월 애저 오픈AI 서비스로 GPT 탬플릿을 앱에 여러개 추가했다"며 "플랫폼 종류를 확장할 수 있었다"고 말했다. 곽 대표 설명에 따르면, 원지랩스 플랫폼 생산성은 지난해 대비 10배 이상 늘었으며, 매출도 약 7배 늘었다.

콕스웨이브는 자체적으로 검색용 코파일럿을 구축하며 느낀 감회를 공유했다. 콕스웨이브 김주원 최고전략책임자(CSO)는 "앞으로 검색은 단순한 인터페이스 기반에서 대화적인 측면을 강조할 것"이라며 "검색 문맥 안에서 사용자와 소통하는 측면까지 고려해야 생성 AI 코파일럿 등 검색 생태계에서 살아남을 수 있을 것"이라고 덧붙였다.

생성형 AI, 사회 복지·교육에도 스며들다

효돌은 돌봄서비스 로봇 '효돌' 소프트웨어(SW)를 업그레이드했다고 밝혔다. 효돌 오태양 이사는 그동안 고객 피드백을 받았다고 말했다. 다수 사용자는 로봇과 쌍방향 소통이 있었으면 한다고 답했다. 오태양 개발 이사는 "쌍방향 소통이 가능한 '효돌 2.0'을 지난주 출시했다"며 "인간과 로봇 사이 간극을 좁혔다"고 했다.

효돌 오태양 개발 이사.

오태양 이사는 로봇 SW 업그레이드를 위해 오픈AI 서비스를 활용했다고 했다. 오 이사 설명에 따르면, GPT 모델에 음성 인식 모델을 결합한 후 학습 데이터셋을 추가로 넣었다. 음성 인식 모델은 사투리까지 인식할 수 있는 기능을 갖췄다. 그는 "마이크로소프트 인프라를 통해 영어나 중국어 등으로 바로 번역할 수 있는 모델도 지원할 계획"이라며 "AI로 책임감 있는 사회 복지 서비스를 실현하겠다"고 말했다. 

뤼이드는 학습 진단 플랫폼 '알테스트'를 직접 시연했다. 알테스트에는 애저 오픈AI 서비스와 자사 언어모델을 결합해 만든 학습 도우미가 탑재됐다. 뤼이드 한성민 ML옵스 리드는 "이 학습 도우미는 단순히 대화만 주고받는 챗봇이 아니다"고 강조했다. 한성민 리드 설명에 따르면, 이 도우미가 학습자와 교육 자료를 같이 보다가 필요한 타이밍에 등장해 핵심을 알려준다. 학습자 질문에 답변도 한다. 에세이 주제에 대해 토론도 할 수 있다. 학생이 쓴 글도 바로 고쳐준다. 학습자가 새로운 형태로 공부할 수 있는 환경을 조성한 셈이다. 

뤼이드 한성민 ML옵스 리드.

한성민 리드는 토익 학습 플랫폼 '산타토익'에 새로 탑재된 질의응답 봇도 소개했다. 학습자는 해당 챗봇에 질문하면, 챗봇은 핵심 내용만 찝어서 알려주는 식이다. 그는 "향후 산타 스피킹에 음성으로 학습자와 토론하고 문법을 수정해 주는 기능도 기획하고 있다"고 전했다.

두나무는 생성형 AI가 증권 정보를 실시간으로 찾아주는 기능을 만들었다. 자사 플랫폼 '증권플러스'에서 작동한다. 사용자가 자연어로 증권 정보를 검색하면, AI가 실시간으로 시세, 재무제표, 공시, 뉴스 등을 요약해 제공하는 식이다. 두나무 이동준 ML팀 팀장은 "AI는 다양한 소재의 데이터에서 중요 정보를 추출하는 역할을 한다"며 "여기서 더 나아가 효과적으로 유저에게 전달하기 위한 목적을 갖고 있다"고 말했다.

야놀자 김승덕 실장은 챗GPT를 기업 플랫폼에 적용할 때 필요한 사항을 설명했다. 김승덕 실장은 "GPT를 도입했을 때 얼마나 품질이 높아지는지, 이를 감당할 수 있는 비용은 충분한지 고려해야 한다"고 주장했다. 

야놀자 김승덕 실장.

또 "자사 제품이 생성형 AI를 감당할 만한지에 대해서도 충분히 생각해야 한다"고 했다. 생성형 AI의 환각 현상도 언급했다. 김승덕 실장은 "현재 환각 현상은 100% 극복할 수 없다"며 "모델 안에 들어있는 정보 밀도를 꾸준히 올려야 서서히 보완할 수 있을 것"이라고 강조했다.

애저 오픈AI 통한 비즈니스 전략 방향은 

패널 토론도 진행했다. 스타트업 관계자는 애저 오픈AI 서비스를 통한 자사 솔루션 발전 방향을 제시했다. 토론에는 뤼이드 김민삼 VP를 비롯한 이세영 뤼튼테크놀로지스 대표, 토스 하대웅 최고제품책임자(CPO), 박재욱 쏘카 대표, 우아한형제들 이기호 CPO가 자리했다. 좌장은 한국마이크로소프트 정우근 디지털 네이티브 팀장이 맡았다.

(왼쪽부터) 이세영 뤼튼테크놀로지스 대표, 박재욱 쏘카 대표, 토스 하대웅 최고제품책임자, 뤼이드 김민삼 VP, 우아한형제들 이기호 최고제품책임자, 한국마이크로소프트 정우근 디지털 네이티브 팀장.

뤼이드 김민삼 VP는 "안정적인 AI 교육 비즈니스 모델 구축을 위해 노력할 것"이라고 했다. "앞으로  그는 "학습자가 지루하지 않고 외롭지 않게 공부할 수 있도록 늘 옆에 '나만의 AI 선생님' 모델을 둘 것이라며 이를 애저 오픈AI와 함께 할 것"이라고 말했다.

이세영 뤼튼 대표는 생성형 AI가 사람 지능과 어떤 방식으로 비슷해 가고 있는지, 어떤 유스케이스에서 가장 많이 기능이 발달하고 있는지 꾸준히 모니터링하겠다고 했다. 그는 "현재 뤼튼은 애저 오픈AI라는 엔진을 달고 뛰는 기차"라며 "애저에 더 발전된 모델이 들어오면 뤼튼도 엔진을 갈아끼는 방식으로 비즈니스 고도화에 주력할 것"이라고 했다.

토스 하대웅 CPO는 AI가 금융 분야에서 신뢰성을 확보하는 것이 최우선 과제라는 입장이다. 그는 "사람과 AI 간 금융 판단을 일치시키는 데 주력하겠다"고 했다. 예를 들어, AI가 고객에게 어느 상황에 소비·저축을 하는 것이 좋은지 추천하면, 고객은 이를 100% 신뢰하고 제안을 따르게 하는 식이다.

박재욱 쏘카 대표는 고객들에게 더 빠르고 정확한 상담 서비스를 제공하는 것이 애저 오픈AI 서비스를 채택한 이유라고 했다. 그는 "비록 AI가 사람을 완전히 대체할 순 없지만, AI와 사람 능력이 합쳐져 더 신속하고 심도있는 상담을 고객에 공급하는 것을 목표로 뒀다"고 말했다. 앞으로 "자사 AI 기술과 애저 오픈AI 서비스를 결합해 초개인화 상담 환경을 조성하겠다"고 덧붙였다. 

우아한형제들 이기호 CPO는 "그동안 한국마이크로소프트팀과 엔지니어링 작업을 많이 진행했다"며 "이 과정에서 얻은 아이디어를 통해 흥미롭고 재미있는 서비스를 다양하게 구현할 수 있었다"고 강조했다. 그는 "앞으로 애저 오픈AI를 챗봇뿐 아니라 다양한 기능에 고루 활용해 볼 생각이다"고 전했다.

"애저 오픈AI 서비스 이렇게 사용하세요"

한국마이크로소프트 김현수 기술전략 매니저는 스타트업을 위한 애저 오픈AI 활용법을 소개했다.

김현수 매니저는 현재 생성형 AI를 통한 검색 서비스 출시가 늘었다고 말했다. 김 매니저는 "마이크로소프트 애저는 '코그니티브 서치' 서비스로 해당 애플리케이션 개발 환경을 제공한다"고 설명했다. 코그니티브 서치는 텍스트 기반의 서치 인덱스와 벡터 기반의 액터 인덱스 모두 다 제공한다.

한국마이크로소프트 김현수 기술전략 매니저.

김 매니저는 현재 가장 많이 사용하는 기업용 GPT 모델은 'GPT-3.5 터보' 버전이라고 했다. 그는 "이 버전은 갈수록 높은 성능을 구현하고, 사용자 질문에 좀 더 명확한 답을 내놓을 확률이 높다"고 이유를 설명했다. 

만약 GPT-3.5 터보 버전을 질문도 많고 답변도 길어야 하는 비즈니스에 활용할 경우 비용이 많이 든다고 설명했다. 그는 "대신 GPT-3.5 16k를 활용하는 게 좋을 것"이라며 "더 저렴한 가격에 비슷한 성능을 기대할 수 있다"고 말했다. 

이미지를 해석, 생성하는 모델 'GPT-4V'와 '달리'도 소개했다. 현재 오픈AI에 탑재된 상태다. 김 매니저는 "이미지 관련 앱을 만들거나, 검색 결과가 시원찮게 나온다면 두 모델을 결합하는 걸 추천한다"고 말했다.

현재 마이크로소프트는 자체적으로 음성을 문자로 바꿔주는 엔진 서비스도 지원하고 있다. 김현수 매니저는 "해당 서비스는 한국 사투리까지 인식할 수 있는 엔진"이라고 강조했다. 그는 "음성 서비스를 비즈니스에 활용할 경우, 이를 GPT 모델에 넣으면 쌍방향 소통이 가능할 것"이라고 했다.

마이크로소프트 스타트업 서밋이 진행되고 있다.

기업은 생성형 AI로 지도 앱 기능을 업그레이드할 수 있다고 말했다. 일반적으로 사용자는 직접 목적지를 입력하고 검색 방식을 찾고, 어떻게 가야 하는지 일일이 확인한다. 

그는 "이젠 사용자가 '광화문에서 강남역까지 얼마나 걸려'라고 자연어로 묻기만 하면 LLM이 더 자세히 답해줄 것"이라며 "GPT-4의 펑션 콜링을 이용하면 된다"고 덧붙였다. 지도 앱 내부에 펑션 콜링을 미리 설정해 놓으면 사용자 경험을 더 높일 수 있다는 의미다.  

김현수 매니저는 기업은 생성형 AI를 비즈니스에 활용하려면 목표를 분명히 세워야 한다고 했다. 김 매니전는 "GPT 모델은 다양하다"며 "각각 용도도 다르다"고 설명했다. 기업은 앱 개발이나 서비스 접목에 가장 잘 맞는 모델을 선택해서 이용하면 된다"고 강조했다.