[기고] 포용적 인재 전략이 AI 리스크 관리 핵심

남영지 클라우데라코리아 상무

인공지능(AI)이 기업 핵심 기능 전반에 빠르게 탑재되면서, 기술 성과만큼이나 '신뢰할 수 있는 AI' 중요성이 커지고 있다. 특히 에이전틱 AI처럼 자율성 높은 시스템은 작은 취약점이 의사결정 과정에서 확대될 수 있어 데이터, 검증, 운영 거버넌스를 점검해야 한다.

이때 놓치기 쉬운 지점이 인재 구성과 역할 설계다. AI 고성장 분야에서는 특정 인재가 부족한 반면, 자동화 영향이 큰 분야에는 특정 인재가 집중되는 경우가 많다. 이는 대표성 차원을 넘어 설계·검증 과정에 다양한 관점이 충분히 반영되는지와 연결된다. 오는 8일 세계 여성의 날 역시 AI 확산 국면에서 기업이 시스템 신뢰성과 인력 설계 리스크를 점검하는 계기가 될 수 있다.

아시아개발은행(ADB)에 따르면 아태지역 과학·기술·공학·수학(STEM) 연구자 23.9%가 여성이다. 산업 전반에서 여성은 고위직 23%, 고위 기술직 8%에 불과하다. 이는 기술 생태계에서 인재 풀이 충분히 확장되지 못하고 있음을 보여주는 지표다. 기업은 장기 역량 확보 관점에서 점검이 필요하다.

클라우데라코리아 남영지 상무. (사진=클라우데라)

IDC는 2027년까지 전체 기업 절반이 인간과 기계의 협업 방식을 재정의하기 위해 AI 에이전트를 도입할 것으로 전망한다. AI 에이전트가 핵심 업무에 더 깊이 관여할수록, 이를 설계하고 테스트하고 운영하는 조직 판단 기준이 시스템 품질과 리스크를 좌우할 가능성이 커진다.

AI는 데이터 기반으로 작동하지만 개발 환경과 의사결정 방식 영향도 받는다. 팀 구성이 한쪽으로 치우친다면 데이터 편향을 넘어 문제 우선순위, 성공 기준, 예외 처리, 위험 판단에서 차이가 발생할 수 있다. 에이전틱 AI의 높은 자율성은 작은 결함을 운영 리스크로 키울 수 있다는 점에서 더욱 엄격한 점검이 요구된다.

기업은 다양성을 선언하는 데 그치기보다 개발과 운영 단계 점검 항목으로 구현해야 한다. 데이터셋 대표성 확인, 불균형 테스트, 예외 상황 검증, 라이프사이클 전반 인적 검토가 핵심이며, 조직도상 숫자보다 제품 방향성과 의사결정에 실질적으로 반영되도록 설계하는 것이 중요하다.

일회성이 아니라 지속 가능한 거버넌스도 필요하다. 예를 들어 싱가포르의 AI 검증 테스트 프레임워크는 공정성, 책임성, 인간 주체성과 감독 등 국제적으로 인정된 11개 원칙 기준으로 AI 시스템을 평가한다. 기업도 이를 참고해 내부 기준을 정리하고 개발과 배포 과정에 일관되게 적용할 필요가 있다.

조직 운영 측면에서는 AI 도입이 특정 부서의 프로젝트로만 진행되지 않도록 해야 한다. 한 보고서에 따르면 인사 부서가 AI 관련 핵심 의사결정을 주도하는 비율은 13%에 그친 것으로 나타났다. 아태 지역 절반에 가까운 기업은 IT 부서가 AI 도입을 주도하는 것으로 나타났다. 직무 변화, 업무 재설계, 신규 역량, 재교육과 전환 경로가 함께 논의되지 않으면 장기적으로 인력 운영 부담이 커질 수 있다는 의미다.

AI 확산으로 기술 기여 기준도 바뀌고 있다. 엔지니어에게는 코딩뿐 아니라 비즈니스 감각, 커뮤니케이션, 협업 역량이 요구된다. 책임 있는 AI는 단일 팀이 아니라 맥락과 판단을 공유하는 협업 구조에서 구현되기 때문이다.

기업이 인정과 보상 기준을 재정의하고 성장 경로를 넓히면 과소대표된 인재에게도 기회가 열릴 수 있다. 클라우데라의 여성 기술 리더(WLIT)와 같은 프로그램은 리더들이 연결되고 경험을 나누는 장을 제공하며, 조직의 인재 파이프라인 구축에도 도움이 된다.

결국 다양한 관점이 설계, 검증, 운영에 자연스럽게 반영되는 구조를 만들 때 AI 리스크를 줄이고 신뢰를 높일 수 있다. 부서 간 협업을 제도화하고 경력 전환 경로를 마련하며, 커뮤니케이션과 감성 지능을 역량의 일부로 인정하는 기업이 지속 가능한 경쟁력을 확보할 것이다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.