[현장] AI 도입 늘어도 성과는 미비…해답은 '구조 재설계'

PwC, AI 기본법 대응 체계 제시…EY, 프로세스 재설계 강조

글로벌 컨설팅사들이 인공지능 전환(AX)의 핵심 요소로 '규제 대응'과 '실행 구조 재설계'를 동시에 제시했다. 기업들이 기술 도입을 넘어 조직·프로세스·거버넌스 전반을 재정비해야 한다는 제언이다.

김진유 PwC 전무는 31일 서울 양재 엘타워에서 열린 '베스핀 AI 파트너스 데이 2026'에서 "AI 기본법 시행 이후 기업은 기술 도입 이전 단계부터 규제 대상 여부를 판단하고 위험 관리 체계를 갖추는 것이 필수적"이라고 밝혔다.

김 전무는 올해부터 시행된 AI 기본법과 관련해 기업이 직면한 가장 큰 변화로 사전 검증 체계를 꼽았다. AI를 직접 개발하거나 외부 솔루션을 도입하는 경우 모두 기획 단계에서부터 법 적용 여부를 판단해야 하며 고영향 AI에 해당할 경우 별도의 관리 체계를 갖춰야 한다는 설명이다.

김진유 PwC 전무 (사진=지디넷코리아)

특히 AI 기본법은 인간의 기본권 침해 가능성을 기준으로 고영향 AI를 규정하고 있어 의료·고용·금융 등 특정 영역뿐 아니라 기업 내부 서비스까지도 규제 대상이 될 수 있다고 짚었다. 이에 기업별로 고영향 AI 판단 기준을 자체적으로 마련하는 것이 중요해진 상황이다.

또 기존 IT 시스템과 달리 AI는 데이터와 모델, 서비스가 복합적으로 얽혀 있어 관리 단위 설정이 핵심 과제로 떠올랐다. 김 전무는 서비스 단위 중심의 위험 관리 체계를 제안하며 각 서비스에 포함된 모델과 에이전트, 배포 시스템까지 연계해 관리해야 한다고 설명했다.

조직 측면에서도 변화가 불가피하다는 점을 강조했다. AI 거버넌스를 총괄하는 전담 조직을 두고 리스크·준법 조직과의 협업 체계를 구축해야 하며 궁극적으로는 최고 의사결정 기구를 통해 AI 서비스 도입과 운영을 통제해야 한다고 제언했다.

김 전무는 "AI는 단순한 IT 시스템이 아니라 법과 윤리, 비즈니스 영향까지 함께 고려해야 하는 영역"이라며 "기존 조직 구조만으로는 대응이 어려운 만큼 새로운 거버넌스 체계가 필요하다"고 말했다.

특히 AI 기본법은 자율 규제 기반으로 설계된 만큼 기업의 책임이 더욱 커졌다고 분석했다. 법이 세부적인 기술 기준을 명시하기보다는 기업이 스스로 위험을 판단하고 관리하도록 요구하고 있어 내부 규정과 절차 설계가 핵심 경쟁력으로 떠오른다는 평가다.

이를 위해선 체크리스트 기반 관리와 함께 시스템화된 통제 체계 구축이 필요하다고 덧붙였다. AI 도입 과정에서 외부 솔루션 공급자에 대한 검증, 데이터 관리, 위험 평가 등을 시스템적으로 관리하지 않으면 규제 대응이 어려워질 수 있다는 설명이다.

김 전무는 "AI 거버넌스는 단순 문서가 아니라 실제 시스템과 조직, 프로세스가 함께 작동하는 구조로 구축돼야 한다"고 강조했다.

김수연 EY 전무 (사진=지디넷코리아)

아울러 김수연 EY 전무는 AI 에이전트 기반 생산성 혁신과 재무적 효과를 주제로 발표를 진행했다. 그는 최근 AI 도입이 가속화됨에도 불구하고 실제 재무 성과로 이어지지 못하는 이유를 조직과 프로세스의 미변화에서 찾았다.

김 전무는 "지난해 MIT가 발표한 연구에 따르면 AI 프로젝트를 진행한 기업 중 실제 성과를 실현한 비율은 5%에 불과하다"며 "생성형 AI가 생산성 혁신 가능성을 열었음에도 불구하고 실제 기업 현장에선 기대 대비 성과가 제한적인 상황"이라고 지적했다.

이러한 원인으로 ▲기존 업무 프로세스 유지 ▲부분적 자동화 ▲조직 변화 부족 등을 지목했다. AI가 일부 업무를 자동화하더라도 전체 프로세스가 그대로 유지되면 생산성 향상이 제한적일 수밖에 없다는 분석이다.

이에 단일 작업 단위가 아닌 전체 업무 흐름을 연결하는 방식의 AI 설계가 필요하다고 강조했다. 여러 시스템과 업무 단계를 통합하는 엔드투엔드 관점에서 AI를 설계해야 실질적인 성과로 이어질 수 있다는 제언이다.

김 전무는 "AI는 일부 업무 자동화가 아니라 프로세스와 역할, 데이터까지 함께 재설계해야 비즈니스 성과로 연결된다"며 "조직 전반의 변화와 실행 구조가 동반돼야 한다"고 강조했다.