"인공지능(AI) 거버넌스는 규제가 아닙니다. AI 확산 과정에서 고객 신뢰를 확보하기 위한 핵심 요소입니다."
김현태 IBM 전략고객본부 커스터머 석세스 엔지니어 차장은 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 AI 거버넌스를 단순한 통제 수단이 아닌 '신뢰 확보 체계'라고 강조했다.
김 차장은 발표 초반 은행, 병원, AI를 나열하며 공통점으로 '신뢰'를 제시했다. "은행이 신뢰를 잃으면 고객이 떠나고, 병원이 신뢰를 잃으면 환자가 떠난다"며 "AI도 신뢰를 잃으면 비즈니스 전반에 리스크로 작용한다"고 말했다. 기술 완성도만으로는 부족하며 신뢰를 설계하는 구조가 필요하다는 설명이다.
이어 글로벌 규제 환경을 짚었다. EU의 AI 관련 규제가 실제 시행 단계에 들어가면서 워터마크 표시, 신뢰성 확보 의무 등 구체 조치가 요구되고 있다고 설명했다.
국내는 '인공지능 기본법'을 통해 산업 육성과 신뢰성 확보를 함께 추진하는 구조라면 EU가 규제 중심으로 특히 투명성과 책임성에 초점을 둔 모델이라는 비교다.
김 차장은 많은 IT 리더가 우려하는 지점으로 '리스크 관리 체계 부족'을 언급했다. AI 블랙박스 문제, 프로세스 실패, 운영 중단 등의 배경에는 거버넌스 공백이 있다는 진단이다.
이를 해결하기 위해선 방향 설정, 지속적 모니터링, 규제 기준에 맞춘 관리라는 3단계 사이클이 반복적으로 작동해야 한다고 강조했다. IBM은 이에 대비한 '왓슨X 거버넌스'를 제시했다. 김 차장은 이 솔루션의 특징을 3가지로 설명했다.
첫째, 기획부터 개발, 운영, 모니터링까지 AI 전 과정을 하나의 플랫폼에서 통합 관리한다. 둘째, 위험을 사전에 식별하고 대응하는 선제적 리스크 관리에 초점을 둔다. 셋째, 규제 대응을 자동화하고 모델의 행동을 투명하게 검증할 수 있도록 설계됐다. 특정 모델이나 환경에 종속되지 않는 확장성도 강점으로 내세웠다.
주요 기능으로는 모델 인벤토리, 리스크 어세스먼트, AI 팩트시트, 옵저버빌리티가 소개됐다. AI 팩트시트는 모델 개발과 운영 전 과정을 자동으로 기록해 감사와 컴플라이언스 대응에 활용할 수 있도록 한 기능이다. 수작업 보고서가 아닌 시스템 기반 이력 관리 구조라는 점을 강조했다.
또한 AI 거버넌스는 특정 조직의 일이 아니라고 지적했다. 유스케이스를 등록하는 과제 담당자, 모델을 개발하는 AI 엔지니어, 승인과 규제 매핑을 담당하는 감사 및 컴플라이언스 팀이 하나의 플랫폼에서 협업해야 한다는 것이다. 각 단계의 활동과 변경 이력이 자동으로 기록되며, 이를 통해 가시성과 투명성을 확보할 수 있다는 설명이다.
실제 사례도 공유했다. 브라질의 한 은행은 AI 라이프사이클 전반을 자동화하고 실시간 규정 준수 모니터링 체계를 구축했다. 글로벌 IT 서비스 기업 인포시스는 AI 관리 시스템을 구축해 국제 표준을 충족하고 EU 규제 대응 체계를 마련할 수 있었다.
관련기사
김현태 차장은 "AI 거버넌스는 더 이상 발전을 막는 규제가 아니라 책임감 있는 AI 확산을 위한 기반"이라며 "도구와 프로세스, 무엇보다 역할자 간 커뮤니케이션이 핵심"이라고 말했다.
이어 "AI 거버넌스는 다양한 이해관계자가 연결될 때 비로소 고객 신뢰를 확보할 수 있다"고 덧붙였다.
