이수정 한국IBM 사장 "기업 데이터 1%만 AI 활용…AX 최대 허들은 전략 부재"

"대다수 기업이 인공지능(AI) 전환(AX)을 외치고 있지만 정작 AI의 핵심 연료인 '기업 고유 데이터' 활용률은 1%에 불과합니다. 이제는 기술 도입을 넘어 데이터를 어떻게 전략적으로 자산화할 것인가가 기업의 생존을 가를 것입니다."

이수정 한국IBM 사장은 9일 서울 여의도 한국IBM 사무실에서 개최한 간담회를 통해 취임 후 처음으로 나선 공식 석상에 이와 같이 말하며 국내외 기업의 AI 도입 현황을 진단하고 AX 가속을 위한 'AI를 위한 데이터(AI Ready Data)' 청사진을 제시했다.

IBM의 조사 결과에 따르면 국내외 CEO들은 생성형 AI의 가치 실현을 위해 가장 중요한 요소로 '기업 고유 데이터 활용'을 지목했다. 그러나 실제 AI 모델에 활용되는 엔터프라이즈 데이터는 전체의 1% 수준에 불과한 것으로 드러났다.

AI 기반 수익 창출을 뒷받침할 데이터 역량을 갖췄다고 응답한 국내 최고데이터책임자(CDO)는 단 13%에 그쳐 데이터 중요성에 대한 인식과 실제 실행 역량 사이에 큰 격차가 있음을 시사했다.

이수정 한국IBM 사장은 "데이터 전략은 단순한 기술 전략이 아닌 핵심적인 '경영 전략'으로 격상되어야 한다"며 "한국 기업이 AI 도입을 통해 실질적 성과를 거두려면 'AI를 위한 데이터(AI Ready Data)'를 어떻게 확보하고 활용할 것인지에 대한 고민이 시급하다"고 강조했다.

이어 "데이터 전략은 기술 전략이 아니라 경영 전략"이라고 강조했다. 그는 한국 기업이 AI와 AX를 성공적으로 추진하려면 데이터 전략 강화가 가장 시급한 과제라고 말했다.

이를 위해 전체 기업 데이터 중 약 90%를 차지하는 비정형 데이터 활용 방안을 마련하고 데이터 기반 성과 지표를 설정해 데이터 전략을 전사 경영 체계에 내재화해야 한다고 덧붙였다.

이수정 사장은 "AI는 이미 기업 혁신의 상징이 됐고 98%의 기업이 생성형 AI를 실험해 봤지만, 실험 단계를 넘어 전사적으로 확장하고 있는 기업은 26%에 불과하다"고 진단했다.

이어 "글로벌 CEO의 72%가 '기업 고유 데이터 활용'을 생성형 AI의 핵심 가치로 꼽았으나, 실제 엔터프라이즈 데이터의 활용률은 1%라는 충격적인 결과가 나왔다"고 지적했다.

한국 IBM이 기업의 AX 가속화를 위한 전략으로 'AI를 위한 데이터'를 제시했다(사진=남혁우 기자)

이 사장은 이러한 간극을 메우기 위해 데이터 전략이 단순한 IT 부서의 과업이 아닌 '경영 전략'으로 격상되어야 한다고 역설했다.

그는 "데이터를 단순히 스토리지나 DB에 저장하는 것을 넘어, 비즈니스 성과(Output)를 창출하는 자산으로 바라봐야 한다"며 "데이터가 매출 전환에 얼마나 기여하는지, 고객 이탈 방어에 얼마나 효과적인지와 같은 명확한 KPI(핵심성과지표)와 연계되어야 한다"고 강조했다.

특히 성공적인 데이터 전략 실행을 위해 CEO, 최고정보책임자(CIO), 최고기술책임자(CTO) 등 의사결정자들의 긴밀한 협업을 주문했다.

이 사장은 "전기 회사가 배전반 소리 데이터를 분석해 전압 이상을 감지하려 할 때, 기존 텍스트 데이터와 비정형 소리 데이터를 어떻게 연계하고 통합 관리할 것인지는 여러 부서의 협업 없이는 불가능한 과제"라며 실질적인 사례를 들어 설명했다.

더불어 AI가 학습하고 활용할 준비가 된 AI 레디 데이터의 필수 조건으로 ▲정확성 ▲최신성 ▲신뢰성 ▲정제 및 구조화를 제시했다.

그는 "AI가 성과를 내려면 분산된 데이터가 통합되고 통일된 형태로 관리되어야 한다"며 "기업이 수십 년간 쌓아온 고유 데이터는 엄청난 자산이지만, 폐쇄망이나 부서별 권한 문제(Silo)로 인해 접근이 제한되는 경우가 많다"고 설명했다.

이어 "이러한 데이터를 실시간으로 AI에 공급하고, 고품질 데이터에 접근 가능한 AI 에이전트와 확장 가능한 아키텍처를 구축하는 것이 경쟁 우위를 확보하는 길"이라고 덧붙였다.

이어 홍규표 데이터 플랫폼 기술 영업 부장은 기업 데이터의 90%를 차지하는 '비정형 데이터' 관리와 '거버넌스'의 중요성을 강조했다.

홍 부장은 "문서, 이미지, 소리 등 비정형 데이터의 활용 가능성을 높이고, 데이터 품질을 자동 점검하는 AI 기반 관리 도구가 기업 혁신의 속도를 결정할 것"이라고 말했다. 또한 "데이터 접근성 확대에 따른 보안 위협을 막기 위해 데이터 주권과 품질을 보장하는 거버넌스 체계가 전제되어야 한다"고 조언했다.

실제 IBM 조사에 따르면 CDO의 83%는 AI 에이전트 도입의 이점이 리스크보다 크다고 보면서도, 이를 위해선 철저한 데이터 거버넌스가 필요하다고 입을 모았다.

최근 발표한 실시간 데이터 스트리밍 기업 '컨플루언트' 인수에 대한 내용도 소개됐다.

이수정 사장은 아빈드 크리슈나(Arvind Krishna) IBM 회장의 메시지를 인용하며, 이번 인수가 IBM의 데이터 전략 퍼즐을 맞추는 핵심 조각임을 강조했다.

이 사장은 "AI가 데이터를 빠르게 접근할 수 있는 환경을 만드는 것은 매우 기술적인 과제"라며 "컨플루언트는 다양한 핵심 데이터 소스를 통합하고 실시간으로 접근하게 하는 데 독보적인 기술을 갖추고 있어, IBM의 하이브리드 클라우드 및 AI 플랫폼과 강력한 시너지를 낼 것"이라고 설명했다.