AI 효과 본 한국 기업 75%, 그런데 '진짜 강자'는 단 2%뿐이었다

한국은 아시아에서 AI를 가장 앞서 도입한 나라 중 하나로 꼽힌다. 실제로 한국 기업 네 곳 중 세 곳(75%)이 "AI가 기대 이상의 성과를 냈다"고 답했는데, 이는 한국을 뺀 나머지 아시아 평균(34%)을 두 배 넘게 웃도는 수치다. 그런데 글로벌 데이터센터 전문기업 에스티티지디씨(STT GDC)가 2026년 5월 27일 한국 조사 결과를 공개하며 발표한 보고서를 보면, 한국 AI 인프라 준비도에는 큰 구멍이 하나 있었다. AI를 실제 사업 경쟁력으로 완성한 '선도' 기업이 100곳 중 단 2곳에 불과했기 때문이다.

아시아 9개국 조사로 드러난 한국 AI 인프라 준비도

에스티티지디씨(STT GDC)가 공개한 보고서 '마인드 더 갭(Mind the Gap)'에 따르면 한국은 아시아에서 AI 도입이 가장 앞선 나라 중 하나지만, 조직 전체로 AI를 넓혀 쓰는 준비도에서는 뚜렷한 격차를 드러냈다. 여기서 AI 인프라 준비도란 기업이 AI를 한두 번 써보는 단계를 넘어, 회사 전체에서 안정적으로 운영하고 키워나갈 준비가 얼마나 갖춰졌는지를 나타내는 지표다.

이번 조사는 STT GDC의 의뢰로 기술 전문 시장조사기관 에코시스템(Ecosystm)이 진행했다. 한국을 비롯해 인도, 인도네시아, 일본, 말레이시아, 필리핀, 싱가포르, 태국, 베트남 등 아시아 9개국에서 기업과 디지털 네이티브 조직의 리더 600명 이상을 만나 물었고, 그중 한국 응답자가 전체의 10%를 차지했다. 쉽게 말해 '한국 기업들은 AI를 도입은 잘했는데, 그다음 단계로 넘어갈 채비는 됐는가'를 아홉 나라와 나란히 놓고 비교한 성적표인 셈이다.

탐색·구축·통합·선도, 한국이 멈춰 선 자리

보고서는 기업의 AI 성숙도를 탐색(Explorer), 구축(Builder), 통합(Integrator), 선도(Leader)라는 네 단계로 나눴는데, 한국 기업의 67%가 두 번째 단계인 '구축'에 머물러 있었다. 가장 첫 단계인 '탐색'은 1%였고, 미래 대응 역량을 갖춘 것으로 평가되는 '통합'과 '선도'를 합쳐도 32%에 그쳤다. 특히 AI를 지속적인 시장 경쟁력으로 연결한 최상위 '선도' 단계 기업은 2% 수준에 머물렀다.

이 네 단계는 운전에 비유하면 이해하기 쉽다. 탐색은 차를 처음 사서 시동을 걸어본 상태, 구축은 동네에서 운전 연습을 마친 상태, 통합은 시내 도로를 능숙하게 달리는 상태, 선도는 어떤 길에서도 막힘없이 달리며 새 길까지 뚫는 상태에 가깝다. 한국 기업 셋 중 둘은 아직 '동네 연습'을 마치고 큰길로 나갈 준비를 하는 자리에 서 있는 셈이다.

흥미로운 점은 성과 자체는 이미 확실하게 나오고 있다는 사실이다. 응답자의 75%가 AI 프로젝트에서 기대 이상의 가치를 얻고 있다고 답했고, 이는 한국을 제외한 나머지 아시아 평균(34%)의 두 배가 넘는다. 차이가 작아 보일 수 있지만, 이 격차는 한국 기업이 'AI가 돈이 되는지 아닌지'를 고민하는 단계를 이미 졸업했다는 뜻이 된다. 문제는 그 효과를 한두 부서가 아니라 회사 전체로 넓히는 길목에서 발이 묶여 있다는 데 있다.

AI 확장의 발목 잡는 인력·비용·규제 3대 과제

한국 기업이 AI 확장에서 멈춰 선 이유는 기술이 아니라 사람과 비용, 그리고 규제에 있었다. 보고서에 따르면 응답자의 52%가 복잡한 고집적 AI 인프라를 관리하고 최적화할 내부 전문성이 부족하다고 답했다. 고집적 AI 인프라란 좁은 공간에 강력한 AI 서버를 빽빽이 몰아넣어 운영하는 환경을 말하는데, 전기도 열도 많이 뿜어내기 때문에 다루기가 까다롭다. 즉 절반이 넘는 기업이 'AI 서버는 들여놨는데 이걸 제대로 굴릴 사람이 없다'는 고민을 안고 있는 것이다.

비용과 규제도 만만치 않은 벽이다. 응답자의 48%는 높은 초기 투자비용과 운영비용을 주요 과제로 꼽았고, 또 다른 52%는 데이터 주권과 규제 준수 같은 시장 특화 이슈를 핵심 제약으로 지목했다. 데이터 주권이란 데이터가 그 나라의 법과 규제 안에서 저장되고 관리되어야 한다는 원칙으로, 해외 클라우드에 함부로 데이터를 올리기 어렵게 만드는 요인이다. 결국 'AI를 어디에 두고, 누구 손에 맡기고, 어떤 규칙을 지키며 굴릴 것인가'라는 운영의 문제가 도입보다 더 무거운 숙제로 떠오른 셈이다.

말로는 친환경, 평가에선 뒷전인 지속가능성

보고서는 한국 기업의 지속가능성 목표와 실제 의사결정 사이에 적지 않은 간극이 있다는 점에도 주목했다. 한국 기업의 31%는 AI 인프라를 결정할 때 지속가능성을 적극적으로 고려한다고 답했지만, 정작 코로케이션 업체를 평가할 때 지속가능성이 차지하는 비중은 15%에 그쳤다. 코로케이션이란 기업이 자체 데이터센터를 직접 짓는 대신, 전문 업체가 운영하는 데이터센터에 서버를 맡겨두고 공간과 전력을 빌려 쓰는 방식을 뜻한다.

기술 도입과 실제 선택 기준의 어긋남도 비슷한 모습으로 나타났다. 응답자의 약 48%가 액체 냉각 기술을 이미 검토하거나 도입 중이라고 답했지만, 이런 친환경 요소가 정작 파트너를 고를 때의 기준에는 충분히 반영되지 않았다. 액체 냉각이란 AI 서버에서 쏟아지는 막대한 열을 공기 대신 액체로 식히는 기술로, 전기를 훨씬 덜 쓰면서 더 강한 AI 장비를 돌릴 수 있게 해준다. 친환경을 중요하게 여긴다고 말하면서도 막상 업체를 고를 땐 가격과 성능을 먼저 보는, 누구에게나 익숙한 장면이 데이터센터 시장에서도 그대로 펼쳐지고 있는 것이다.

이제 인프라는 '얼마나'가 아니라 '어떻게'

보고서는 다음 단계로 올라설 가능성이 높은 기업일수록 인프라를 직접 소유하기보다 전략적 파트너십을 통해 전문 역량에 접근하는 쪽으로 움직이고 있다고 분석했다. 통합 단계에서 선도 단계로 발전하는 기업들의 공통된 특징이라는 것이다. 직접 데이터센터를 짓고 인력을 다 떠안기보다, 잘하는 전문 업체와 손잡아 부족한 운영 역량을 메우는 전략이 더 빠른 길로 떠오르고 있다는 의미다.

허철회 STT GDC 코리아 대표는 "한국은 이미 AI 실험 단계를 넘어섰다. 이제 중요한 것은 AI의 가치 입증이 아닌, 이미 구축한 AI 환경을 어떻게 확장할 것인가"라며 "AI 환경이 점점 복잡해지면서 전문 인력 부족과 운영 역량, 규제 대응 이슈가 AI 확장의 핵심 과제로 부상하고 있다"고 말했다. 보고서 역시 앞으로 한국의 AI 경쟁력은 얼마나 많은 인프라를 구축하느냐보다, 이를 얼마나 전략적으로 운영하고 활용할 수 있느냐에 따라 갈릴 것이라고 강조했다.

한국 AI가 마주한 다음 시험대

이번 보고서는 한국이 'AI를 쓸 것인가 말 것인가'라는 질문에서는 이미 답을 찾았다는 사실을 보여준다. 75%라는 높은 성과 만족도가 그 증거다. 다만 여기서부터는 도입의 속도보다 운영의 깊이가 승부를 가를 가능성이 있다. 서버를 더 많이 사들이는 일보다, 그것을 다룰 사람과 규제를 지키는 설계, 오래 버티는 비용 구조를 갖추는 일이 더 어려운 과제로 남아 있기 때문이다.

선도 기업이 2%에 머물러 있다는 수치를 위기로 읽을지, 아직 열려 있는 기회로 읽을지는 두고 볼 필요가 있다. 분명한 것은 다수의 한국 기업이 비슷한 출발선에 서 있다는 점이다. 인력과 운영, 규제라는 세 가지 숙제를 누가 먼저 푸느냐에 따라, 몇 년 뒤 'AI를 잘 쓰는 나라' 안에서도 기업 간 격차가 새롭게 벌어질 수 있다. 그 답을 각 기업이 어떻게 써 내려갈지가 한국 AI의 다음 시험대가 될 전망이다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. AI 인프라 성숙도가 정확히 무엇인가요?

기업이 AI를 단순히 시험 삼아 써보는 수준을 넘어, 회사 전체에서 안정적으로 운영하고 확장할 준비가 얼마나 됐는지를 보여주는 지표입니다. STT GDC 보고서는 이를 전략, 조직 준비도, 데이터 거버넌스, 현재 인프라 수준, 미래 확장 전략 등 다섯 가지 영역으로 평가했습니다.

Q. 한국 기업의 75%가 AI 효과를 봤다는데, 왜 확장이 어렵다고 하나요?

효과를 보는 것과 회사 전체로 넓히는 것은 다른 문제이기 때문입니다. 보고서에 따르면 한국 기업의 52%가 AI 인프라를 다룰 내부 전문 인력이 부족하다고 답했고, 비용 부담과 데이터 규제 대응도 확장을 가로막는 주요 과제로 꼽혔습니다.

Q. 코로케이션이나 액체 냉각 같은 말이 어렵습니다. 쉽게 설명해 주세요.

코로케이션은 회사가 데이터센터를 직접 짓지 않고 전문 업체의 공간에 서버를 맡겨 빌려 쓰는 방식입니다. 액체 냉각은 AI 서버에서 나오는 많은 열을 공기 대신 액체로 식혀 전기를 아끼고 더 강한 장비를 돌리게 해주는 기술입니다.

기사에 인용된 리포트 원문은 STT GDC에서 확인할 수 있다.

리포트명: Mind the Gap: Bridging the AI Infrastructure Readiness Divide (격차 해소: AI 인프라 준비 불균형의 가교 마련)