AI 도입한 기업들, 실효성 떨어져 '속앓이'

수억원 들였지만 기대 효과 안 나와 재구축 줄이어

“수억 원을 들여 인공지능(AI) 챗봇을 도입했는데 예상한 성능은 나오지 않고 오히려 고객의 불만만 키웠다. 오랜 논의 끝에 기존 챗봇을 걷어내고 새로운 시스템을 적용하기로 결정했다”

지난해 AI 챗봇을 도입했으나 다시 서비스 재구축 충인 한 기업의 관계자가 전한 내부 상황이다.

최근 디지털 트랜스포메이션의 핵심 기술로 AI가 주목받고 있다. 시장에서 경쟁우위를 차지하고 생존을 위해 관련 서비스를 적용하는 기업이 느는 추세다. 하지만 충분한 이해와 준비 없이 AI를 도입해 피해를 보고 있는 사례 역시 늘어나고 있다.

지디넷코리아는 AI서비스 관련 관계자들을 통해 상황을 파악했다. 인터뷰에 응한 관계자들은 외부 압력을 우려해 모두 익명을 원했다.

(이미지=unsplash)

■ 주먹구구식 도입으로 성능 낮은 AI 서비스 늘어

현재 국내에서 가장 많이 쓰이고 있는 AI 서비스는 AI 챗봇이다. 금융사를 비롯해 통신, 공공 등 다양한 분야에 적용되고 있다. 도입할 수 있는 분야가 넓고, 구축도 수월하기 때문이다.

하지만 많은 기업에서 사용 중인 챗봇이 실제 업무에 활용할 수 있는 수준의 성능을 제공하지 못하고 있다.

AI챗봇에 쓰이는 기술은 대부분 구글의 버트 등 오픈소스를 활용한다. 비슷한 기술을 사용함에도 유독 특정 챗봇의 정확도가 떨어진다. 정확성이 떨어지는 이유는 AI학습을 위한 데이터가 부족하기 때문이다.

수년간 AI서비스 및 스마트 팩토리를 구축해온 전문가는 “챗봇이 원활하게 작동하기 위해선 사람마다 달라지는 어휘나 어순 등을 학습시킬 정도로 충분한 양의 데이터가 필요하다”며 “하지만 AI 도입 초기에는 충분한 학습용 데이터 셋을 갖춘 업체가 많지 않았다“고 설명했다.

수준이 낮은 AI의 범람은 AI기업과 고객사 양측의 전문성 부족에서 기인했다. 급격한 시장의 성장으로 서비스 경험이 전무하고 전문성을 갖추지 못한 AI기업이 난립하고, 고객사는 AI기업의 기술력을 검증할 방법이 없었기 때문이다.

IT전문가는 “4차 산업혁명, 디지털 트랜스포메이션이 떠오르면서 AI가 새로운 시대의 생존을 위한 기술로 평가받았다”며 “그만큼 모두 마음만 급한 채 AI를 도입하기 시작했지만, 막상 도입하고 보니 목표한 것과는 달랐던 것”이라고 설명했다.

그는 “AI 시장이 처음 열릴 때는 서비스사와 고객 모두 경험이 없던 시기였다”며 “특히 스타트업으로 시작한 AI기업 중 다수가 경험이 적을 뿐 아니라 학습데이터나 AI모델 기술도 부족하고 사후 지원에 대한 역량도 없어 피해를 양산했다”고 밝혔다.

■ AI 도입 위한 사내역량 부족

AI서비스 도입 실패는 기업 내부의 역량 부족도 영향을 미쳤다. 데이터과학자 등 전문 인력과 AI 학습을 위해 정리된 데이터가 거의 없었기 때문이다.

금융기업인 B는 AI기반 고객 데이터 분석 시스템을 적용했다. 고객의 분석해 새로운 금융 상품을 개발하고 기존 상품의 부가가치도 높일 계획이었다.

하지만 사내에 역량을 갖춘 데이터 과학자를 보유하지 못해 해당 시스템을 제대로 운영할 수 없었다. 금융데이터 특성상 개인정보 등 민감한 내용이 많아 외부 운영 대행도 불가능했다.

B기업의 관계자는 “워낙 급격하게 성장한 분야이다 보니 어떤 데이터가 무엇을 의미하는지 이해할 수 있는 역량을 가진 데이터과학자를 비롯해 분석을 위한 데이터의 수준과 양 등 전반적으로 부족한 상황”이라며 “또한 기업 간 데이터과학자 확보 경쟁이 치열하다 보니 어렵게 확보하거나 신입 직원을 뽑아 키우더라도 금방 이직하는 경우가 많다”고 내부 분위기를 설명했다.

AI에 대한 직원의 신뢰 부족 역시 AI 도입 실패 원인이었다.

제조전문 기업인 C도 제조라인 자동화를 위해 AI를 도입했지만 최근 시스템을 걷어내고 있다.

제조업은 제조 공정이나 원자재 비율 등이 회사의 기밀이다. 보안 유지를 위해 AI 자동화 시스템을 구축할 때 외부 개발자 없이 내부 기술전문가가 직접 AI를 학습시킬 수 있는 방식으로 구축했다.

하지만 기술전문가는 AI에 자신의 노하우를 제대로 학습시키지 않았다. AI가 자신의 일자리를 빼앗을 것이라고 우려했기 때문이다.

C 기업 관계자는 “AI가 업무를 최소화할 수 있다는 이야기가 활발해지면서 많은 직원들이 AI로 인해 자신이 실직할 수 있다는 두려움을 가지고 있어 사용에 소극적이었다”며 “AI는 사람으로부터 일자리를 빼앗아 가는 것이 아니라 어렵거나 반복적인 일을 돕는 것이라는 인식을 직원들에게 심어줄 필요가 있는 것 같다”고 말했다.

국내외 주요 AI서비스 기업은 고객사의 AI운영 역량 부족을 해결하기 위한 솔루션을 출시 중이다. 데이터 과학자가 없이 비즈니스 전문가가 직접 AI모델을 만들거나 데이터를 분석할 수 있는 오토ML을 비롯해 제조, 금융, 의료 등 특정 분야에 맞춰 사전에 학습된 버티컬AI 등을 선보이고 있다.

(이미지=unsplash)

■ 속앓이 중인 AI서비스 재구축 붐

“최근 IT업계에서 AI서비스 재구축 붐이라는 말이 나오고 있다. 실패사례를 밝히기 꺼려하는 기업 특성상 일부 기능을 추가한다는 명목으로 기존 시스템을 걷어내고 완전히 새로 적용하는 사례가 대부분이다” 다른 한 AI서비스 전문가는 위와 같이 AI 서비스 시장을 설명했다.

관련 업계에 따르면 챗봇 개발은 평균 2억 원 상당으로 알려졌다. AI모델 개발을 비롯해 메신저 채널 가입, 챗봇 솔루션 구축 등이 포함된다. 계약에 따라 다르지만 학습 데이터 구축은 별도로 이뤄진다.

AI상담사 등 고객 대상 서비스의 경우 마케팅 비용까지 더해져 투자 비용은 더욱 증가한다. 많은 관련 장비가 요구되는 스마트팩토리 역시 억 단위 이상 비용이 투자된다.

많은 기업이 5년 이상 장기적인 운용을 예상하고 비용을 투자했다. 하지만 1년도 채 넘기지 못하고 서비스를 갈아엎고 있는 실정이다.

AI서비스 전문가는 “최근 AI서비스 구축 문의가 있어 고객사를 방문해 보면 이러한 사례가 상당히 많다”라며 “다만 외부에 공개할 수 없어 속으로 앓고 있는 경우가 다반사”라고 했다.

현재 안정적으로 AI서비스를 활용 중인 기업의 관계자는 AI에 대한 학습을 충분히 거치고 소규모로 천천히 도입할 것을 조언했다.

그는 “많은 기업에서 주변 이야기를 듣고 무작정 AI를 도입하는 경우가 많다”며 “이런 방식은 남들의 실패를 그대로 답습하는 격"이라고 지적했다.

이어서 그는 “AI를 왜 도입할 것인지 명확한 목표를 가지고 확실히 효과가 있을 분야에 작게 도입하며 성능을 입증하고, 기업 전체에서 AI에 대한 이해도와 사용범위를 천천히 넓혀가야 한다”고 조언했다.