AI가 여전히 조직의 '이방인'에 머물러 있다면

'HR을 부탁해'는 일과 사람에 대한 고민을 가진 이 시대 직장인 모두를 위한 기획 연재물입니다. 다방면에서 활약 중인 HR 전문가들이 인적자원 관련 최신 트렌드와 인사이트를 전달합니다. 송지현 커뮤니케이션 헤드는 'AI 시대, HR이 새겨야 할 N번째 레슨'이라는 주제로 총 5회에 걸쳐 연재할 예정입니다.

"개개인이 문서를 요약·작성하고, 함수를 짜는 속도는 빨라졌습니다. 하지만 AI가 우리 조직의 체질을 바꿨느냐 묻는다면 물음표입니다. 회사의 맥락을 전혀 이해하지 못하거든요.”

송지현 플렉스 커뮤니케이션 헤드

누구보다 민첩하게 AI 전환(AX, AI Transformation)에 도전한 어느 외국계 기업의 일화다. 그의 물음표는 단순한 사건에서 비롯됐다. 한 직원이 근무 정책을 묻자, AI가 엉뚱한 해외 본사의 규정을 현지 언어로 읊어댄 것이다. 질문자가 한국지사 소속이며, 한국 노동법을 적용 받는다는 '맥락'을 그 AI는 읽어내지 못했다.

직장인이라면 누구나 들어봤을 법한, 엄연한 엔터프라이즈 AI를 전면 도입했음에도 AI는 조직의 이방인으로 머물고 있었다.

싱글 플레이어 AI의 한계

비단 이 기업만의 문제가 아니다. MIT 테크놀로지 리뷰가 발행한 '생성형 AI 격차: 2025년 비즈니스 AI 현황 보고서(The GenAI Divide: STATE OF AI IN BUSINESS 2025)'에 따르면, 기업 내 AI 활용은 업무의 복잡도에 따라 극명한 온도 차를 보인다.

기업 사용자 설문 결과 이메일 작성이나 요약 등 간단한 업무에서는 AI 선호도가 70%에 달했지만, 복잡한 프로젝트에서는 10%로 급락했다. AI가 '개인의 비서'로서는 합격점을 받았을지 몰라도 복잡한 조직의 맥락을 이해해야 하는 중요 업무에서는 신뢰 받지 못한다는 방증이다.

간단한 업무에서 AI 선호도는 70%에 달하지만, 복잡한 프로젝트에서는 10%에 불과했다.(출처: MIT 테크놀로지 리뷰, 'The GenAI Divide' 리포트)

왜 그럴까? 대다수 기업이 AI를 조직 전체의 맥락을 관통하는 인프라가 아닌, 단순히 개인별 생산성만 높이는 싱글 플레이어(Single Player) 도구로만 접근했기 때문이다.

앞선 외국계 기업 해프닝은 싱글 플레이어 도구의 한계를 적나라하게 보여준다. 조직의 맥락을 모르는 범용 AI는 문서를 읽을 줄만 알지, 이를 누가·언제·어떤 상황에서 열람해야 하는지는 알지 못한 채 결정적 순간에 엉뚱한 답을 내놓는다. 질문자와 질문 시점에 따른 데이터 활용 여부를 판단할 수 없다면, 참조할 데이터가 아무리 많다 한들 죽은 데이터에 다름 없음을 시사한다.

공공 AX, 멀티 플레이어 AI가 더 절실한 이유

조직은 개인의 합, 그 이상이다. 개인기가 빼어난 축구 스타 11명을 모아놓는다고 해서 더 훌륭한 성적을 내지 못하는 것과 같다. 팀이 승리하려면 선수 간의 유기적인 협력, 전술의 공유, 그리고 전체를 조망하는 감독의 지휘가 있어야 한다. 조직의 AI도 팀스포츠와 마찬가지다. 개인용 생산성 도구가 아닌, 조직 전체를 연결하는 멀티 플레이어 환경의 '원팀(One Team)' 인프라가 필요하다.

"축구와 마찬가지로 회사 조직도 개인의 합 그 이상이다."(제공=클립아트코리아)

이런 한계를 일찍이 인식한 정부의 움직임은 시사하는 바가 크다. 구윤철 기획재정부 장관이 공공기관 경영평가에 AI 활용 실적 반영을 예고한 이래, 한국지능정보사회진흥원(NIA)은 공공부문 AX 추진 전략을 내놓으며 '개인 단위의 활용을 넘어, 조직의 역량과 자원을 결집하는 전사적 AX가 필요하다'고 역설했다. 단순한 툴 보급이 아니라, 경영 체계와 업무 프로세스를 AI 중심으로 완전히 재설계해야 한다는 진단이다. 혁신에 보수적인 공공 부문조차 싱글플레이어 AI 도입의 한계를 직시하고, 조직의 체질 자체를 바꾸는 시스템 구축에 나선 것이다.

사실 정부부처와 공공기관이야말로 맥락을 이해하는 인프라, 즉 '멀티 플레이어' 환경의 AI가 민간보다 절실하다. 순환 보직이 잦아 업무의 맥락이 단절되기 쉽고, 부서 간 칸막이(Silo)로 데이터 파편화가 심하기 때문이다. 이런 환경에서 단순히 공무원 개개인에게 AI 계정을 나눠주는 '보급형 AX'에 그친다면 효능 없이 예산만 낭비할 뿐이다. NIA의 방향성은 공공 부문에서 나아가 대한민국 AX의 기준점이 될 고무적 신호다.

성공의 열쇠, 'HR-Driven AX'

그렇다면 멀티 플레이어 환경은 어떻게 구축해야 할까. 나는 그 방법을 'HR 드리븐 AX(HR-Driven AX)'라 명명하고 싶다. 조직의 핵심인 HR 데이터가 AX의 구심점이 되어야 한다는 의미다. 비즈니스 실행 주체는 결국 구성원인 까닭이다. 누가 어떤 권한 하에서 어떤 업무를 어떤 맥락으로 수행하는지 모른다면, 아무리 뛰어난 AI도 껍데기에 불과하다.

이미 시장에는 특정 영역의 브레인 역할을 하는 버티컬 AI가 존재한다. 예컨대 고객 데이터는 세일즈포스가, 자금 데이터는 SAP가 담당하는 식이다. 하지만 기업의 모든 데이터를 조직과 구성원 중심으로 연결해 전사적 맥락을 완성하는 조직의 두뇌(Corporate Brain)는 결국 HR 데이터 위에서만 힘을 발휘할 수 있다.

전사 조직이 다 함께 AI를 제대로 쓰고, 조직 전체의 생산성을 증강시키기 위해 조직의 두뇌가 갖춰야 할 세 가지 조건을 제시한다.

첫째, 다차원 구조의 지식 연결망(Knowledge Graph)이다. 단순히 파일을 학습하는 정도가 아니다. 인사 정보, 프로젝트 이력, 동료 평가, 심지어 흩어져 있는 회의록까지 시계열로 꿴 연결망이어야 한다. 예를 들어 "OO 프로젝트를 이끌 팀장으로 적합한 후보를 추천해줘"라고 물었을 때, 파일 기반 AI는 적절한 답변을 주기 어렵다. 하지만 다차원 구조의 지식 연결망을 갖춘 AI는 인사 고과, 프로젝트 수행 이력, 동료 피드백, 개인의 희망 커리어 경로 등을 종합적으로 검토해 최적의 인재를 추천한다. 적재적소의 인재 등용은 곧 비즈니스 성장으로 이어진다.

둘째, 인가(Authorization) 기반의 안전장치다. 지난 네 번째 레슨에서 강조했듯, 인가는 기업 AX의 기본 전제다. 폴더나 파일 접근을 통제하는 수준이 아니라, AI가 사용자와 데이터 사이의 관계를 실시간으로 이해해야 한다. 가령 특정인의 급여 관련 질문에 당사자와 인사팀장에게는 바르게 답하되, 그밖의 경우는 불응해야 한다. AI가 조직도와 직위·직급·직무·고용형태 등의 정보를 실시간으로 파악해 데이터 접근 권한을 엄격하게 판단할 때 비로소 모든 구성원이 보안 걱정 없이 AI를 활용하는 환경이 열린다.

셋째, 조언을 넘어선 자율적 실행이다. "신규 입사자 온보딩 계획안을 짜줘"라는 질문에 범용 AI가 조언을 내놓을 순 있어도, 실제 업무를 수행할 권한은 없다. 하지만 HR 시스템과 연동한 에이전트는 손과 발이 되어 움직인다. "다음 주 월요일에 입사하는 OOO 님의 온보딩을 진행해 줘" 한 마디에 AI가 사내 규정에 따라 필수 교육과정을 설계하고, 조직장과 멘토의 캘린더를 실시간 조회해 적절한 미팅 일정에 초대한다. 유관 부서에 노트북 등 비품 지급을 요청하고, 입사일에 발송할 웰컴 메일 세팅까지 스스로 마친다. 이처럼 목표만 던져주면 스스로 방법을 찾는 AI, 수십 번의 조율과 소통 과정을 3초 컷으로 완결하는 AI는 조직 전체의 민첩성을 획기적으로 높인다.

HR, 조직 운영자에서 '조직 설계자'로

조직의 두뇌를 구축하면 HR의 역할은 완전히 달라진다. 사내 제도를 학습한 AI는 구성원의 반복적인 문의 응대를 전담하고, 노동법과 세법 등 복잡한 관계법령과 판례를 학습한 AI가 우리 기업의 법적 리스크를 맞춤형으로 진단하는 컴플라이언스 파트너로 기능한다. 비로소 HR은 단순 반복성 운영 업무를 덜어내고 본질적인 가치 창출에 집중할 수 있게 된다.