생성형 AI 도입, HR 부서가 특히 소극적…왜 그럴까

국제 로펌 스콰이어 패튼 보그스(Squire Patton Boggs)가 진행한 설문조사에 따르면, 기업들의 생성형 AI 도입은 아직 초기 단계이며 특히 인사(HR) 부문에서는 더욱 소극적인 것으로 나타났다. (☞ 보고서 바로가기)

28%는 전면 금지, 17%는 제한적 허용...기업의 생성형 AI 도입 현황

현재 기업들의 생성형 AI 도입 현황을 살펴보면, 절반 이상의 기업이 챗GPT(ChatGPT), 클로드(Claude), 달리(DALL-E) 등의 생성형 AI 사용을 허용하고 있다. 그러나 전체 응답 기업의 28%는 여전히 생성형 AI 사용을 전면 금지하고 있으며, 17%는 특정 부서나 직책에서만 제한적으로 사용을 허용하고 있다.

"무료 버전보다 유료 버전이 더 안전"...기업들의 과도한 보안 우려

기업들이 생성형 AI 사용을 금지하는 가장 큰 이유는 기밀 정보 유출 위험으로, 전체 응답의 75%를 차지했다. 그 다음으로는 AI 응답의 오류 가능성(12.5%)과 모델 사용 비용(12.5%)이 뒤를 이었다. 지적재산권 침해에 대한 우려는 상대적으로 낮은 것으로 나타났다. 그러나 보고서는 이러한 우려가 무료 버전에만 해당되며, 유료 버전의 경우 데이터를 훈련 목적으로 재사용하지 않는다는 점을 강조했다.

실제로 주요 공급업체들의 유료 서비스에서는 지금까지 데이터 유출 사고나 그러한 징후가 전혀 발견되지 않았다. 오히려 기업이 생성형 AI 사용을 금지할 경우, 직원들이 개인 기기에서 덜 안전한 무료 버전을 사용할 가능성이 높아져 보안 위험이 더 커질 수 있다고 분석했다.

72%가 AI 가이드라인 보유 또는 개발 중...투명성 강조

설문에 응답한 기업의 50%는 이미 AI 사용에 대한 명확한 가이드라인을 보유하고 있으며, 22%는 현재 가이드라인을 개발 중이다. 보고서는 특히 직원들이 AI 사용 여부와 그 이유를 명확히 이해하고, 부적절한 사용에 따른 제재 사항을 인지하는 것이 중요하다고 강조했다. 특히 연구 목적이나 지적재산권 침해가 우려되는 분야에서는 AI의 '환각' 위험이 여전히 존재하므로, 관리자들은 AI의 도움을 받아 작성된 결과물을 더욱 면밀히 검토해야 한다고 지적했다.

EU AI법에 따르면 AI 시스템 제공자와 배포자는 직원들에게 적절한 수준의 AI 리터러시 교육을 제공해야 하며, 이는 직원들의 기술적 지식, 경험, 교육 수준, AI 시스템 사용 맥락 등을 고려하여 결정된다.

"도입 계획 없음"이 과반수...HR 부문의 소극적 AI 도입

HR 부문의 AI 활용 현황을 살펴보면, 채용(27.27%), 평가(18.18%), 직원 정보 접근성 개선을 위한 챗봇(18.18%) 등의 영역에서 제한적으로 활용되고 있다. 반면 인재 관리나 인재 배치 분야에서는 아직 AI가 활용되지 않는 것으로 나타났다. 주목할 만한 점은 AI를 도입하지 않은 이유에 대해 58.33%의 기업이 "아직 검토하지 않았다"고 응답했다는 것이다.

그 외에 오류 발생이나 의도치 않은 차별 위험(25%), 비용 문제(16.67%)를 도입 장애 요인으로 꼽았다. 향후 12개월 내 AI 사용 확대 계획에 대해서는 55.56%가 부정적이었으며, 44.44%만이 AI 활용 확대를 계획하고 있다고 응답했다. 이는 HR 분야에서 AI 도입이 아직 초기 단계에 머물러 있음을 보여준다.

"대량 해고 없다"...AI 도입으로 인한 인력 조정 계획

AI 도입으로 인한 인력 조정 계획에 대해서는 대다수의 기업이 부정적인 입장을 보였다. 향후 12-24개월 내에 AI 도입으로 인한 인력 감축 가능성에 대해 83.33%의 기업이 "가능성이 낮다"고 응답했으며, 16.67%만이 인력 감축이 있을 것이라고 예상했다. 이와 관련해 챗GPT는 단순 반복적인 관리 업무, 고객 서비스, 제조 및 창고 관리 직무 등에서는 AI가 인간의 역할을 일부 대체할 수 있지만, 데이터 분석, 기계학습, AI 개발, 관리직 등 새로운 일자리가 창출될 것이라고 전망했다.