쏘카 "실수 안 하는 'AI 상담원' 만들겠다"

'애저 오픈AI'로 환각 현상 0% AICC 구축 도전

컴퓨팅입력 :2023/10/30 15:37

"쏘카는 생성형 인공지능(AI)으로 빠르고 정확한 상담센터를 구축할 예정이다. 간편 문의는 AI 상담원이 처리하고, 어렵고 복잡한 문의는 인간 상담원이 처리하는 식이다. 약 10년간 모은 고객 데이터와 AI 기술을 결합해 실수하지 않는 AI컨택센터(AICC)를 만들겠다."

쏘카 박경호 AI팀 팀장은 26일 서울 강남구 모스스튜디오에서 열린 '마이크로소프트 스타트업 서밋 – 젠AI 로드쇼'에서 애저 오픈AI서비스를 활용한 AICC 구축 사례를 설명하며 이같이 밝혔다.

쏘카는 온라인을 통해 자동차 공유 서비스를 운영하는 기업이다. 차량 공유에 필요한 상담 서비스는 고객센터를 통해 제공한다. 쏘카 고객은 차량 렌트, 반납 일정 문의, 사고, 안전 등 관련 문의 내용을 고객센터로 질문한다.

쏘카 박경호 AI팀 팀장이 26일 열린 '한국마이크로소프트 스타트업 서밋'에서 발표를 하고 있다.

박경호 AI팀 팀장은 시간이 갈수록 상담 문의 복잡도가 높아졌다고 했다. 그는 "오프라인서 작동하는 차량을 온라인으로 운영, 관제하기 어렵기 때문이다"고 말했다. 이에 따라 문의 해결 시간과 비용까지 덩달아 늘었다고 했다.

박경호 팀장은 상담센터 운영을 효율적으로 할 방법을 꾸준히 찾았다는 입장이다. 그는 "AI 상담원이 인간과 유사한 수준으로 업무를 처리했으면 싶었다"며 "이는 인간 상담원 업무 부담을 줄이고, 상담에 드는 시간과 비용을 절감할 수 있다"고 덧붙였다.

박 팀장은 이를 위해 시나리오 기반 거대언어모델(LLM)을 활용했다고 했다. 고객이 자연어로 질문하면, AI 챗봇이 먼저 응대하는 식이다. 간단한 문의 사항은 챗봇이 먼저 처리한다. 예를 들어, 사용자가 ‘쏘카에는 어떤 차종이 있나요?’ 같은 간단한 질문을 하면, 챗봇이 이를 안내하고 상담은 끝난다.

박경호 팀장은 쏘카 AICC 개발에 시나리오 기반 LLM을 적용했다고 설명했다.

만약 사용자가 사고, 안전, 반납 일정 등 복잡한 문의를 할 경우 AI 챗봇은 이를 인간 상담원에 바로 넘긴다. 박경호 팀장은 "특히 안전 문의는 인간 상담원이 무조건 담당할 수 있도록 설계했다"고 했다. AI 챗봇이 고객 문의를 이해하지 못한 경우도 마찬가지다. AI가 이를 상담원에게 연결해 자연스러운 상담이 진행되도록 설계됐다.

박 팀장은 "해당 시나리오를 AICC에 적용하면 인간 상담사는 기존보다 복잡하고 어려운 문의에 더 많은 시간을 활용할 수 있다"며 "인력 비용을 줄일 수 있을 뿐 아니라 상담 서비스 품질까지 좋아지는 1석 2조 효과를 얻을 수 있다"고 했다. 인간 상담원이 진행한 상담 내용은 추후 고객 상담 분석을 위한 지표로 활용된다. 그는 "상담 데이터를 통해 더 품질 높은 응대 매뉴얼을 개발할 수 있을 것"이라고 덧붙였다.

"애저 오픈AI, 수준 높은 보안·기술지원 강점"

쏘카 김상우 데이터 비즈니스 본부장과 박경호 팀장은 이날 본지와 진행한 인터뷰에서 AICC 개발에 애저 오픈AI 서비스를 선택한 이유를 밝혔다.

가장 큰 이유는 데이터 보안이다. 박경호 팀장은 "AICC는 고객 개인 정보를 다루는 시스템이다"며 "민감한 정보가 채팅창에 이리저리 돌아다닐 수 있다"고 했다. 이는 데이터가 외부로 빠져나가거나 다른 모델 학습 재료로 사용될 가능성이 높다는 의미다. 그는 "애저 오픈AI 서비스는 이러한 보안 염려를 줄여준다"며 "애저상에서 고객 데이터는 쏘카 데이터 저장소에서만 안전히 보관된다"고 강조했다.

김상우 데이터 비즈니스 본부장은 즉각적인 신기술 적용을 애저 오픈AI 선택 이유로 꼽았다. 김상우 본부장은 "새로운 AICC를 구축하다 보니, 필요한 최신 기술이 나왔을 때 이를 일일이 시스템에 적용해야 하는 번거로움이 있었다"고 했다. 그는 "마이크로소프트를 통해 오픈AI의 신기술을 바로 제공받을 수 있어 편리하다"고 했다. 김 본부장은 "이 외에도 마이크로소프트는 생성형 AI 기술 컨설팅이나 문제 해결을 위한 대응책을 꼼꼼히 챙겨줘 만족스럽다"고 덧붙였다.

쏘카 김상우 데이터 비즈니스 본부장은 애저 오픈AI 서비스 강점으로 즉각적인 신기술 적용을 꼽았다.

박경호 팀장은 애저 오픈AI 서비스로 개발 중인 AICC 상태에 대해 설명했다. 그는 "현재 내부적으로 기술 데모를 시연 중"이라고 말했다. 박 팀장 설명에 따르면, 예약 시간 변경과 취소 테스크를 AI 챗봇으로 실행할 수 있는 시연이 한창이다. 이 기능은 가장 많이 들어오는 고객 문의일 뿐 아니라 챗봇만으로 응대하기 가장 어려운 것으로 알려졌다. 박 팀장은 "고객 말투나 발화는 천차만별"이라며 "이를 검증하고 실제 상용화까지 내기 위한 작업도 진행 중"이라고 덧붙였다.

그렇다고 AICC가 인간 상담사를 완전히 대체하지는 않을 거라고 했다. 김상우 본부장은 "쏘카 AICC는 사람을 대체하는 기술이 아니라 인간 상담원 업무를 돕는 수단"이라고 설명했다. 그는 "인간 상담사 대체만을 목표로 두면 인건비 절감 효과만 이룰 수 있다"며 "쏘카는 사람과 기술을 결합해 더 좋은 상담 서비스를 내놓는 것을 주요 목표로 뒀다"고 강조했다. AI를 통해 더 품질 높은 상담 서비스를 제공한다는 의미다.

"일반 AICC 뛰어 넘는 플랫폼 만들 것"

쏘카는 실수 하지 않는 AI 상담 플랫폼 구축을 최종 목표로 뒀다. 김상우 본부장은 "쏘카는 약 10년간 차량 공유 서비스를 운영했다"며 "데이터 운영 노하우와 고객 센터 상담 노하우를 잘 모아 정확도 높이는 AICC 플랫폼을 만들 수 있을 것"이라고 자신했다.

그는 "오픈AI GPT 모델과 쏘카 데이터 운영 노하우, 자체 개발한 AI 기술을 통합할 것"이라며 "잘못된 응답을 하지 않는 '제로 할루시네이션(환각현상)' AICC를 만들 수 있을 것"이라고 했다. 그는 "이같은 챗봇 레퍼런스는 아직 없다"며 "쏘카는 세상에 없던 무결점 챗봇 구축을 향해 달릴 것"이라고 했다.

관련기사

김상우 쏘카의 AI 기술을 조합해 세상에 없는 AICC 플랫폼을 만들겠다고 했다.

김상우 본부장은 향후 쏘카 AICC 플랫폼이 고객 음성을 자연어로 전환하는 것뿐 아니라 시각, 촉각 정보도 자연어로 바꿀 수 있을 것이라고 했다. 예를 들어, 자동차에 비정상적인 진동이 발생할 경우, AI가 이를 인식해 자연어로 AICC 플랫폼에 전하는 식이다. 김 본부장은 "그동안 쏘카가 개발한 AI 감지 기술로 충분히 가능한 미래"라며 "쏘카와 고객 소통 방식을 더 확장하겠다"고 했다. 쏘카는 약 3년간 AI 시각, 촉각 감지 기술을 자체적으로 개발해 왔다.

김 본부장은 "애저 오픈AI 서비스로 쏘카 AI 기술을 한데 묶을 것"이라며 "실제 상담원이 차량 조수석에서 고객을 살피는 듯한 플랫폼을 구축할 것"이라고 전했다.