AX 도입 2단계...SKT, 이제 '조직'이 AI로 일한다

SK텔레콤이 직원 한 명마다 인공지능(AI)으로 일하는 데서 나아가 조직이 일하는 방식 자체를 AI 중심으로 바꾸기로 했다. 개인 업무 효율을 높이는 데 집중했던 점에서 벗어나 조직의 업무 절차와 협업 구조를 AI 중심으로 재설계하고, 생산성과 사업 성과를 높이겠다는 뜻이다.

‘1인 1에이전트’라는 구호로 에이전트를 만들어 본 직원이 4000명이 넘고 이 가운데 1500개의 에이전트는 정기적으로 활용되고 있다. 에이전트의 월 사용자 수는 7500을 넘어섰다.

이처럼 단순히 클로드나 챗GPT를 쓰는 데 그치지 않고 자신의 업무에 적합한 AI 에이전트를 만들고 쓰는 과정에서, 직원들이 몸소 회사의 AI 전환(AX)에 공감하고 개인의 에이전트 활용을 넘어서는 회사의 업무체계 전반을 손보기로 한 것이다.

AI를 업무에 적용하다 보면 재교육과 업무 프로세스 재설계, 데이터와 조직 정비 등에 기존보다 더 많은 시간과 비용이 들어가고 이 과정에서 생산성이 일시적으로 후퇴할 수 있다. SK텔레콤이 진단하는 회사의 현 상황이다. 이 단계를 넘어서면 생산성이 급격하게 향상될 것으로 보고, 이를 ‘AX의 J커브’라고 부르고 있다.

SK텔레콤은 이같은 J커브를 돌파하기 위해 조직의 업무를 새롭게 설계하는 ‘AX 2.0 전략’을 추진키로 했다.

김인수 SK텔레콤 AI보드 팀장은 지난달 30일 경기 이천 SK텔레콤 인재개발원에서 열린 AX 현황 브리핑에서 “지금 시대에 AX는 안 할 수 없고, AX를 하려면 반드시 J커브를 거쳐야 한다”며 “힘든 골짜기를 근근이 넘어갈 것인가, 아니면 과속해서 빠르게 넘어갈 것인가의 선택 문제”라고 말했다.

왜 AX 2.0인가... “혼자서는 못 넘는 벽이 보였다”

AX 1.0에서 2.0으로 바꾸겠다고 하는 이유로 결국 개인의 한계가 꼽혔다. 직원 한 명이 AI로 활용할 수 있는 회사의 자원과 협업 경계에는 분명한 제한이 있고, 직원마다 AI를 활용하는 수준도 달랐다.

김인수 팀장은 “개인이 풀 수 있는 부분은 대부분 풀렸고, 이제 회사가 지원해야 하는 진짜 어려운 문제들이 새 과제로 떠올랐다”면서 “사내 데이터 접근 권한, ERP나 전자결재 같은 시스템 연동, 보안 검토처럼 직원 한 명이 아무리 애써도 혼자 열 수 없는 문”이라고 운을 뗐다.

이어 “많은 회사들이 비슷한 일을 겪게 되는데 개인이 풀 수 있는 문제는 대부분 많이 풀린 것 같고, 이제 회사가 지원해야 하는 부분들이 새로운 과제로 떠오르기 시작했다”며 “1500개의 에이전트 중에 어떻게 관리할지, 더 중요한 에이전트는 회사 차원에서 지원해야 하는 것이 아닌지, 회사 데이터나 시스템을 지원해야 하는 것이 아닌지의 화두가 떠올랐다”고 설명했다.

그런 가운데 AX 추진을 위한 직원들의 공감대가 형성되면서 AX 도입 가속화가 힘을 받게 됐다.

김 팀장은 “직원들이 조금 더 해보자, 조금 더 의미 있는 걸 만들어 보자는 이야기를 하기 시작했다”며 “팀이나 개인이 하던 여러 활동을 넘어 회사 조직 기반으로 AX을 해야 하는 것이 아닌가, 그리고 실효성을 낼 수 있는가와 같은 의문과 함께 다음 단계로 넘어가자는 수요가 생겼다”고 밝혔다.

단순히 숫자만 바꾼 게 아니라 새로운 AX 과제를 추진하게 된 배경이다.

SKT, 사내 AX 별동대 꾸렸다

SK텔레콤은는 먼저 'AX 이네이블러 TF'를 꾸렸다. 모두가 부딪히는 데이터, 권한, 보안 문제를 회사 차원에서 한 번에 푸는 조직으로 교육체계와 기술 인프라를 정비하는 역할을 맡고 있다. AI 에이전트에 직원과 같이 사번을 부여하고 업무 기여도 평가 체계도 만들고 있다.

김 팀장은 “AX라는 게 채팅창 하나 띄워놓고 챗봇을 쓴다고 해서 되는 것이 아니라 사내의 많은 데이터와 시스템, 정보 등이 필요하다”며 “보안 문제도 챙겨야 하며, 결국 경영진 차원에서 볼 때 기업문화 관점에서 인력과 에이전트의 리소스가 업무를 병행할 수 있게 끔 해야 한다”고 말했다.

즉 AX 이네이블로 TF는 전사적인 지원에 목적을 두고 만들어진 조직이다.

이와 함께 'AX 샌드박스'는 한 조직의 업무를 처음부터 AI 중심으로 다시 짜 보는 실험이다. 상반기 서비스 개발 조직에서는 기획팀, 개발팀, QA팀이 나눠 하던 일을 한 명이 AI 에이전트와 함께 맡았다.

김 팀장은 “의사결정 단계가 크게 줄면서 생산성이 굉장히 높아지는 것을 확인했다”며 “하반기에는 전사 각 조직이 3개월씩 같은 실험을 하고 있다”고 밝혔다.

사내에 현업 분야 10명으로 꾸려진 'AX 카탈리스트’도 꾸려졌다. AI 전문가나 개발자가 아니라 자기 업무에서 문제를 찾아 AI로 풀어 온 이들로, 말 그대로 사내에서 AX 촉매 역할을 맡는다. 회사는 이들에게 과제를 정해 주지 않고 LLM 비용과 데이터 연결, 보안 검토를 지원한다.

김 팀장은 “선구자가 가는 방향이 곧 길이 되고, 작은 오솔길이 큰 고속도로가 된다”고 했다.

AI에 개인정보 안 보내고, 데이터 정답률은 두 배로

AX 2.0을 도입하면서 기술적인 차원도 고민했다. 회사에서 AI를 쓰다 보면 반드시 “개인정보를 AI에 올려도 되냐”는 질문에 부딪힌다.

SK텔레콤은 직접 개발해 특허를 출원한 'Z.E.Z(Zero Exposure Zone)'로 풀어냈다. 원본 데이터를 별도의 안전 영역에 두고, AI에는 판단에 필요한 결과만 넘긴다. 의료비 정산이라면 AI는 환자 이름이나 병명 대신 '지원 대상자가 맞는지 아닌지'만 받는다.

아울러 '데이터 데스크'는 AI가 사내 데이터를 읽을 수 있게 만든다. 사내 데이터는 개발자만 아는 약어로 가득해 AI가 뜻을 알기 어렵다. 데이터 데스크는 데이터마다 업무적 의미를 자동으로 붙인다. 외부 LLM으로 하면 한 조직에만 연간 1억~2억 원 이상이 드는 작업이라, SK텔레콤은 자체 NPU 장비와 A.X K1 모델로 비용을 낮췄다. 그 결과 에이전트의 질문 처리 정답률이 40% 수준에서 80% 이상으로 올랐다.

'워크맵'은 직원의 업무를 AI가 이해할 수 있는 지도로 그리는 것이다. AI가 KPI와 기존 업무 자료를 먼저 읽고 업무 흐름 초안을 내놓으면, 직원이 AI와 대화하며 다듬는 방식이다. 내비게이션이 지도 기반으로 작동하는 것처럼 에이전트가 작동할 수 있는 워크맵을 만들겠다는 뜻이다.

SK텔레콤은 이러한 기술과 제도를 통해 AI 활용을 개별 업무의 편의성 개선에서 조직 전체의 생산성과 매출 기여로 연결할 계획이다.