아태지역 기업, AI 도입은 빠른데….위험요소도 적지 않다

AI 도입 가속화 속 드러나는 거버넌스 공백

딜로이트가 발간한 '아시아-태평양 지역 AI 거버넌스 서베이' 보고서에 따르면, 아시아 태평양 지역의 AI 관련 투자는 2030년까지 1,170억 달러에 이를 것으로 전망된다. 특히 생성형 AI가 가장 빠르게 성장하는 기술로 자리 잡은 가운데, 직원들의 40% 이상이 이미 직장에서 생성형 AI를 사용하고 있는 것으로 나타났다. 그러나 이러한 급속한 AI 도입 이면에는 보안 취약성(86%), 감시(83%), 개인정보보호(83%) 등의 리스크가 도사리고 있다는 우려가 제기되고 있다.

실제로 2024년 글로벌 데이터 유출의 평균 비용이 거의 500만 달러에 달하며, 이는 전년도에 비해 10% 증가한 수치다. 특히 소비자 신뢰의 약화와 브랜드 평판에 미치는 부정적인 영향은 장기적으로 심각한 결과를 초래할 수 있다. 연구에 따르면 소비자의 62%가 AI와의 상호작용이 윤리적으로 이루어지는 기업에 대해 더 높은 신뢰를 느끼며, 53%는 이러한 신뢰가 있는 기업의 제품과 서비스에 더 많은 비용을 지불할 용의가 있는 것으로 나타났다.

AP 지역 AI 거버넌스 성숙도: 10개 중 9개 기업 '기초-발전 단계

딜로이트의 AI 거버넌스 성숙도 지수를 활용한 조사 결과, AP 지역의 10개 조직 중 1개 미만만이 신뢰할 수 있는 AI를 달성하기 위한 거버넌스를 갖추고 있는 것으로 파악됐다. 전체 조직의 91%가 기초 또는 발전 단계의 거버넌스 수준에 머물러 있어, AI 거버넌스의 전반적인 개선이 시급한 것으로 나타났다. 특히 정책과 기준(31%), 프로세스 및 관리 체계(23%) 영역에서 기초 단계에 머물러 있는 조직의 비율이 높았다.

산업별 AI 거버넌스 현황과 과제

조사 결과, 산업별로 AI 거버넌스 성숙도의 차이가 뚜렷했다. 기술, 미디어 및 통신, 금융 및 보험 서비스, 전문 서비스 분야에서 신뢰할 수 있는 AI에 대해 '준비 완료' 단계의 비율이 가장 높게 나타났다. 반면 정부 및 공공 부문과 생명 과학 및 의료 분야의 조직은 상대적으로 낮은 수준을 보였다. 금융 서비스 산업의 경우 77%가 발전 단계, 13%가 준비 완료 단계에 도달했으며, 첨단기술 산업은 76%가 발전 단계, 14%가 준비 완료 단계에 있는 것으로 나타났다.

효과적인 거버넌스가 가져오는 실질적 혜택

연구 결과에 따르면, 효과적인 AI 거버넌스를 갖춘 조직은 여러 가지 이점을 누리고 있다. 조사 응답자의 51%는 AI 거버넌스의 긍정적인 효과로 AI 솔루션의 결과에 대한 신뢰 향상을 언급했다. 특히 신뢰할 수 있는 AI 지수가 높은 조직은 지난 1년 동안 더 높은 수익 성장을 경험했으며, 지수가 15점 상승할 경우 수익이 4.6%포인트 더 증가하는 것으로 나타났다. 1억 달러의 성장률을 기록한 대규모 조직의 경우, 이는 460만 달러의 추가 수익으로 이어질 수 있다.

인력 역량 강화를 통한 AI 거버넌스 개선

조사에 따르면 평균적으로 56%의 직원만이 AI를 책임감 있게 사용할 수 있는 기술과 역량을 갖추고 있다. AI 교육을 제공하는 조직은 교육을 제공하지 않는 조직에 비해 AI를 안전하게 사용할 수 있는 직원 비율이 27% 더 높았다. 그러나 현재 52%의 조직만이 이러한 프로그램을 제공하고 있으며, 교육을 제공하지 않는 조직의 72%는 팀을 위한 프로그램을 적극적으로 개발하고 있다.

AI 공급망 이해의 중요성

조직의 AI 사용과 함께 개발자, 배포자, 규제 기관, 플랫폼 제공자, 최종 사용자 및 고객 등 더 넓은 'AI 공급망'과의 상호작용을 이해하는 것이 중요해지고 있다. 조사에 따르면 15%의 고위 리더는 자신의 조직이 구매한 AI 솔루션, 내부에서 개발한 AI 솔루션, 공개적으로 이용 가능한 AI 애플리케이션을 조합해 사용하고 있다고 답변했다. 점점 더 많은 조직이 외부 감사 기관을 참여시켜 거버넌스 프레임워크에 추가적인 방어체계를 구축하고 있으며, 준비 완료 단계 조직의 3분의 2가 외부 당사자에게 AI 솔루션의 구현을 평가받은 경험이 있다.

AI 거버넌스 개선을 위한 전략적 접근

조직이 AI 거버넌스를 개선하기 위해서는 우선 현재 상태를 정확하게 이해하는 것이 중요하다. 딜로이트는 조직이 자신의 시스템을 평가하고 개선이 필요한 영역을 식별할 수 있도록 다섯 가지 기준(조직 구조, 정책과 기준, 프로세스 및 관리체계, 인력과 역량, 모니터링 및 보고)을 제시하고 있다. 또한 85%의 조직이 내부 기준에 따라 최소 6개월마다 AI 거버넌스를 평가하고 있으며, 이 평가 주기는 6개월, 3개월 또는 실시간으로 이루어질 수 있다.

모범 사례: Energy Queensland와 Singtel의 AI 거버넌스 접근법

실제 기업들의 AI 거버넌스 구현 사례도 주목할 만하다. 호주 최대의 정부 소유 전력 회사인 Energy Queensland는 AI 정책과 활용 사례에 대한 로드맵을 개발하고, 이를 뒷받침하는 적절한 가이드라인을 마련했다. 해당 정책이 산업 모범 사례에 부합하고 올바르게 구현되도록 외부 기관과 내부에서 독립적으로 검토를 진행했다.