'AI 초기 단계' 졸업한 韓 기업들…다음 과제는 'ROI'

IDC 보고서, 국내 AI 도입 수준 확인…"측정 가능한 투자 수익에 집중할 때"

컴퓨팅입력 :2025/08/19 15:36

국내 기업의 인공지능(AI) 구현 수준이 초기 단계를 넘어섰다는 분석이 나왔다. AI 인재 부족과 복잡한 시스템 구성 등 여러 난제 속에서도 아시아 태평양 지역 평균을 크게 웃도는 성과를 거뒀다는 것이다.

19일 시장조사기관 IDC가 발표한 'AI 구현을 위한 전략적 계획 수립' 보고서에 따르면 국내 기업 32%는 이미 AI를 도입했거나 핵심 경쟁력으로 인식하고 있다. 델테크놀로지스와 엔비디아가 공동 의뢰한 이 보고서는 아태지역 평균인 24%보다 한국의 AI 도입 수준이 높다고 분석했다.

이미 아태지역 전반에서 AI 도입은 빠르게 확산하는 추세다. AI 서버 시장은 올해까지 239억 달러(한화 약 32조5천억원) 규모에 이를 전망이다. 올해 아태지역 기업 84%는 생성형 AI에 100만~200만 달러(한화 약 13억~27억원)를 투입할 계획이다.

아태지역 국가별 AI 및 머신러닝 비교 현황 (사진=IDC)

다만 AI 및 생성형 AI를 확장하는 과정에서 기업들은 여러 도전에 직면했다. 증가하는 IT 비용과 정부 규제 및 컴플라이언스 리스크, 지속가능성 요건 충족 등이 대표적이다. 심각한 AI 숙련도 격차와 보안 및 개인정보보호 문제 역시 주요 관심사로 나타났다.

이러한 난제를 극복하기 위해 기업들은 외부 전문 역량에 대한 의존도를 높이고 있다. 아태지역 응답자 60%는 AI 애플리케이션 개발을 외부 인력에 의존한다고 답했다. 자체 개발 비중은 30%에 그쳤다.

보안과 비용 효율 등을 이유로 프라이빗 AI와 온프레미스 환경에 대한 수요도 증가하는 추세다. 최고정보책임자(CIO)들은 범용 AI 모델에서 산업별 특화 모델로 전환을 서두르고 있다.

산업별로 보면 은행 및 금융 부문은 아태지역에서 84%의 업체가 AI를, 67%의 업체가 생성형 AI 도입을 주도하고 있다. 사기 탐지, 자금 세탁 방지 등에서 주로 활용된다.

관련기사

제조업체 78%는 AI를, 54%는 생성형 AI를 사용해 공급망 최적화와 예측 유지 보수 등에 집중한다. 에너지 기업들 역시 상당수가 이를 도입해 전력망 최적화와 예측 유지 보수를 강화하고 있다.

김경진 델테크놀로지스 한국 총괄사장은 "국내를 포함한 아태지역은 AI 도입과 혁신을 선도할 엄청난 잠재력을 보유하고 있다"며 "이제 기업들은 개념 검증(POC)을 넘어 측정 가능한 투자 수익률(ROI) 달성에 집중해야 할 때"라고 밝혔다.