韓 기업, 'AI 신뢰 격차' 감소세…다음 과제는 데이터 품질

모델 관리·감독 점수 9.3점 올라…설명 가능성·공정성 개선은 소폭에 그쳐

한국 기업들이 인공지능(AI) 신뢰도와 실제 관리 역량 사이 간극을 좁혔다는 조사 결과가 나왔다. 다만 이를 사업 성과로 연결하려면 데이터 품질을 높이고 AI 판단 근거를 설명하는 능력을 보완해야 한다는 분석도 제기됐다. 

30일 SAS가 발표한 '데이터 및 AI 영향력 보고서'에 따르면 한국 기업의 AI '신뢰 격차'는 지난해 28.9점에서 올해 1.5점으로 27.4점 줄었다. 보고서는 IDC의 리서치 인사이트를 바탕으로 전 세계 28개국 비즈니스·IT 의사결정권자 2699명을 조사한 결과를 반영했다. 

신뢰 격차는 기업이 AI를 얼마나 믿는지를 나타내는 '체감 신뢰'와 실제 AI 관리 역량 차이를 뜻한다. 한국 기업의 체감 신뢰 점수는 지난해 73.9점에서 올해 58.6점으로 낮아졌다. 같은 기간 실제 관리 역량 점수는 45점에서 57.1점으로 올라 두 지표가 비슷한 수준에 도달했다.

한국 기업들이 인공지능(AI) 신뢰도와 실제 관리 역량 사이 간극을 좁혔다는 조사 결과가 나왔다. (사진=SAS)

한국 기업의 개선이 가장 두드러진 항목은 '모델 거버넌스 및 감독'이었다. AI 모델 운영을 관리하고 감독하는 체계를 평가한 이 항목은 전년보다 9.3점 오른 55.8점을 기록했다.

AI 활용 토대인 데이터와 판단 근거 설명 능력은 개선 폭이 작았다. '설명 가능성 및 공정성'은 54.6점, '데이터 품질 및 거버넌스'는 53.9점으로 각각 소폭 상승하는 데 그쳤다. '책임 있는 AI 정책'은 지난해와 같은 59.5점에 머물렀다.

특히 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업은 1.9%에 불과했다. AI 모델에 대한 관리·감독 체계를 강화하는 속도에 비해 데이터 품질을 일관되게 관리하는 기반은 부족한 것으로 나타났다.

보고서는 한국 기업의 다음 과제로 데이터 품질과 설명 가능성 확보를 꼽았다. 스스로 판단하고 행동하는 '에이전틱 AI'를 도입한 국내 기업 비율이 42.6%에 달하는 만큼 AI가 어떤 데이터를 바탕으로 왜 해당 결정을 내렸는지 확인할 수 있어야 한다는 설명이다.

글로벌 조사에서도 AI 판단 근거를 설명하는 능력이 주요 과제로 드러났다. 사용자가 AI 판단을 신뢰하지 못하는 가장 큰 이유는 AI가 판단 근거를 설명하지 못하는 경우였다. 조사 대상 사용자의 97.2%는 특정 상황에서 AI의 권고를 그대로 따르지 않고 직접 수정한 것으로 나타났다.

신뢰할 수 있는 AI 체계와 투자 성과 사이의 연관성도 확인됐다. 글로벌 조사에서 신뢰할 수 있는 AI 구축에 투자한 기업이 높은 투자 대비 성과를 달성한 비율은 62%로 그렇지 않은 기업의 4%보다 약 15배 높았다. 최적화된 데이터 인프라를 갖춘 기업도 그렇지 않은 기업보다 높은 투자 대비 성과를 달성할 확률이 4배 높았다.

이중혁 SAS코리아 대표는 "한국 기업들의 AI 신뢰 격차가 1년 사이에 급격히 줄어든 것은 거버넌스 구축과 현실적인 리스크 인식이 빠르게 이뤄졌다는 긍정적인 신호"라며 "한국이 AI 확장을 실질적인 비즈니스 성과로 이어가려면, 거버넌스 구축과 발맞춰 AI의 판단 근거를 설명하고, 정확성과 재현성을 갖춘 데이터 기반을 완성하는 것이 중요한 과제"라고 강조했다.