델 "韓 기업 95%, AI 도입 난항…인프라·데이터 정비가 핵심"

기업 절반 이상 AI 성숙 단계 진입…ROI 기대는 높지만 인프라 준비는 부족

인공지능(AI) 혁신에 대한 기업들의 기대감은 높지만 실제 실행을 위한 준비는 아직 미흡한 것으로 나타났다. 특히 국내 기업 상당수가 AI가 비즈니스 혁신의 핵심 동력임을 인식하면서도 시스템 통합과 전문 인력, 데이터 보안 등 현실적 한계에 직면해 있는 것으로 조사됐다.

5일 델 테크놀로지스가 발표한 '2025 서베이' 보고서에 따르면 한국을 포함한 전 세계 40개국의 비즈니스 및 IT 의사결정자들은 AI가 기업 전략에 중요한 역할을 담당한다고 답했다.

국내 응답자의 76%, 글로벌 응답자의 80%가 생성형 AI를 포함한 AI 기술이 기업 혁신의 핵심이라 답했으나, 상당수 기업은 통합과 운영 과정에서 어려움을 겪고 있는 것으로 나타났다.

AI 도입 현황 및 구축 방식 (사진=델 테크놀로지스)

조사에 따르면 국내 기업의 49%는 이미 데이터 사이언스 조직을 구축하고 생성형 AI 솔루션을 도입하는 등 AI 여정의 성숙 단계에 진입했다. 이는 지난해 43%에서 상승한 수치로, 구체적 계획이 없거나 초기 단계에 머무는 기업 비율이 줄어든 것으로 분석된다.

또 국내 기업들은 AI 도입에 따른 실질적 효과를 기대하며 평균 투자 대비 수익률(ROI)을 38.4%로 전망했다. 이는 글로벌 평균(32%)보다 높은 수준이다.

AI 도입 방식에서도 한국 기업들은 데이터 민감도에 따라 하이브리드 방식을 취하겠다는 응답이 52%로 가장 높았고 AI PC를 이용한 로컬 AI 소프트웨어 구동(49%)이 그 뒤를 이었다.

반면 퍼블릭 클라우드 서비스에 전적으로 의존하겠다는 응답은 34%에 그쳤다. 이는 보안과 데이터 주권을 중시하는 국내 기업들의 특성이 반영된 결과로 풀이된다.

국내 기업의 AI 도입을 방해하는 요소 (사진=델 테크놀로지스)

AI 도입 과정에서의 주요 장애요인으로는 기존 시스템과의 통합(47%), 내부 전문성 부족(42%), 데이터 보안 및 개인정보보호(38%) 등이 지적됐다. 특히 국내 기업의 95%가 AI 도입 과정에서 어려움을 느낀다고 답해 기술적 준비와 인프라 개선의 필요성을 시사했다.

AI 워크로드를 위한 인프라 업그레이드의 필요성도 높게 나타났다. 국내 기업의 29.2%가 서버, 31.5%가 스토리지 업그레이드가 필요하다고 응답했다. 주된 이유로는 데이터 보안 강화(53%)와 CPU·GPU 등 프로세싱 파워 향상(51%)이 꼽혔다.

아울러 국내 기업의 92%는 생성형 AI가 더 직관적이고 개인화된 애플리케이션을 가능하게 할 것이라 답했다. 이를 위해 데이터 품질 개선(43%), AI 인프라 및 AI PC 투자(38%), 거버넌스 정책 마련(35%) 등이 필요하다고 밝혔다.

보고서는 AI 기술과 지속가능성의 연관성도 다뤘다. 국내 응답자의 82%가 AI의 환경적 영향에 우려를 표했지만 동시에 자원 사용 최적화와 친환경 운영 강화를 위해 AI가 필수적이라고 답했다.

실제 국내 기업의 90%는 AI 도입으로 인한 전력 소비 증가에 대비한 조치를 취하고 있으며 97%는 IT 솔루션 구매 시 지속가능 설계와 에너지 효율성을 주요 고려 요소로 삼은 것으로 조사됐다.

김경진 한국 델 테크놀로지스 총괄사장은 "많은 기업들이 혁신을 위해서는 AI가 필수 불가결하다고 인지하고 있으나 실행을 위한 전문성·인프라·데이터 등의 준비에는 격차가 발생하고 있다"며 "이 격차를 좁히기 위해서는 시스템 통합에 적합하게 인프라를 재구성하고 AI 시대에 필요한 데이터 보호 전략을 필수적으로 마련해야 한다"고 제언했다.