KT "AI 경쟁력, 잘 만드는 것보다 잘 쓰는 데 달렸다"

박상원 AX사업부문장, 잘 쓰는 AX 조건으로 신뢰·효율·실행 제시

“AI 경쟁의 무게중심이 더 좋은 모델을 만드는 기술 경쟁에서 기업과 산업이 AI를 얼마나 잘 활용해 실질적인 성과를 만들어내느냐로 이동하고 있다.”

박상원 KT AX사업부문장은 6일 AI페스타2026 주요 프로그램인 ‘AI서밋’에서 키노트 발제를 맡아 이같이 말했다. 모델의 파라미터나 벤치마크 점수보다 AI 도입 이후 생산성이 얼마나 높아졌고 업무시간과 고객 대기시간을 얼마나 줄였는지가 중요해졌다는 뜻이다.

그는 “이제는 어떻게 좋은 툴을 만드는지를 넘어 AX를 통해 어떤 성과와 가치를 만드느냐가 훨씬 중요한 시점이 됐다”며 “AI를 도입해서 생산성이 얼마나 올랐는지, 고객 대기시간이 얼마나 줄었는지, 업무 처리시간이 얼마나 효율화됐고 새로운 비즈니스 가치를 얼마나 창출했는지가 중요하다”고 설명했다.

이어 “AI 경쟁력이 성능에서 성과로 확장되고 있다”며 “기업 데이터에 붙고, 수많은 비즈니스 로직과 연결되고, 실제 업무 워크로드에 적용돼야 가치 창출로 연결될 수 있다”고 덧붙였다.

AI페스타 2026 주요 행사인 AI서밋 기조강연자로 참여한 박상원 KT AX사업부문장.

“인터넷 처음 만들진 않았지만 가장 잘 썼다...AI도 그런 시점”

박상원 전무는 한국이 AI 전환의 기로에 서 있다고 진단했다. 일부 업무에서 진행하는 실증(PoC)에 머무를지, AI 에이전트를 핵심 업무와 기업, 산업 전체로 확산해 새로운 성장동력으로 활용할지가 갈리는 시점이라는 설명이다.

그는 “이 기로에서 가장 중요한 전환의 키워드는 ‘실행’이라고 생각한다”고 강조했다.

한국의 초고속인터넷 경험을 예로 들며 “우리나라가 인터넷을 처음 만든 나라는 아니다”며 “하지만 누구보다 빠르게 초고속인터넷망을 연결해 인터넷 생태계를 만들었고 온라인 커머스, e스포츠, K콘텐츠, 디지털 금융, 온라인 교육 등을 만들어냈다”고 평가했다.

그러면서 “AI도 그런 시점이 왔다고 생각한다”며 “AI 기술 자체를 확보하는 경쟁과 함께 이를 산업과 사회 전반에서 빠르게 활용하는 역량이 중요해졌다”고 진단했다.

다만 기업이 실제 AI를 도입하는 과정에서는 보안과 비용, 환각, 규제, 빠른 기술 변화 등이 장벽으로 작용하고 있다고 봤다.

박 전무는 “기업의 노하우를 어떻게 지킬지, 고객 정보가 빠져나가면 어떻게 할지, AI가 틀리면 누가 책임질지, 규제와 규정을 어떻게 충족할지에 대한 고민이 있다”며 “기술도 너무 빨리 바뀌다 보니 구축하고 나면 우리만 ‘마루타’가 되는 것 아니냐는 걱정도 한다”고 말했다.

그는 또 “고객사에 에이전틱 AI 플랫폼을 도입했는데 토큰 비용이 월 20억원씩 나가는 경우도 있다”며 “PoC에서는 잘됐는데 실제 실행 단계에서는 안 되는 경우도 있다”고 덧붙였다.

국가 전략산업에서는 데이터 주권 문제까지 더해진다. 핵심 산업 데이터가 해외로 나갈 가능성에 대한 우려가 AI 도입과 실행을 늦추는 요인이 될 수 있다는 것이다.

KT는 이런 문제를 해결하기 위한 AX의 3대 조건으로 ▲신뢰 ▲효율 ▲실행을 제시했다.

보안부터 월 수십억원 토큰 비용까지...“신뢰·효율·실행 갖춰야”

‘신뢰’는 기업이 AI와 데이터를 직접 통제할 수 있는 환경을 뜻한다.

박 전무는 “우리 회사가 가진 지식과 데이터에 근거해 명확하고 믿을 수 있는 결과가 나와야 하고 정확해야 하며 환각이 없어야 한다”며 “결과를 검증하고 모델과 에이전트의 전 과정을 투명하게 추적하고 모니터링할 수 있어야 한다”고 말했다.

국내 규제와 사내 규정을 준수하면서 데이터와 모델에 대한 통제권도 확보해야 한다고 강조했다. KT는 토큰팩토리를 통해 데이터 보안 가드레일을 구축하고 기업용 에이전틱 AI 플랫폼 에이전틱온(Agentic On)을 통해 AI 운영 환경을 통제한다. 기업의 업무 언어와 데이터를 연결하는 KT온톨로지도 구축했다.

‘효율’에서는 빠르게 바뀌는 AI 기술을 기업 전체로 확산할 수 있는 구조와 비용 절감이 핵심이다.

박 전무는 “AX 솔루션 구성 요소를 레고 블록을 맞추듯 모듈화하고 산업별 표준에 맞춘 구성요소를 미리 갖춰 기업이 일부만 맞춤화해 빠르게 적용할 수 있어야 한다”고 설명했다.

에이전틱 AI 시대에는 여러 AI 에이전트를 연결하고 통제하는 기능도 중요해진다. 동시에 업무 목적에 맞는 모델과 컴퓨팅 자원을 골라 최소 비용으로 토큰을 생산해야 기업의 AX 비용을 낮출 수 있다.

KT가 구축한 토큰팩토리는 AI 데이터센터의 GPU와 NPU, AI 모델 등을 업무 목적에 맞게 연결해 비용을 최적화한다. 여기에 기업 데이터를 AI가 이해할 수 있도록 구조화하는 Data4AI, 에이전트를 개발 배포 운영하는 에이전틱온을 연결했다.

박상원 KT AX사업부문장은 잘 쓰는 AX 조건으로 신뢰, 효율, 실행을 제시했다.

마지막 조건은 ‘실행’이다.

박 전무는 “개인이 사용하는 채팅과 기업의 AI 도입은 다르다”며 “기업의 수많은 프로세스와 비즈니스 로직, 데이터를 연동해 한 땀 한 땀 만드는 일을 기업 혼자 하기는 힘들다. 실행의 인에이블러가 반드시 필요하다”고 말했다.

이를 담당하는 것이 FDE(Forward Deployed Engineer)다. KT의 FDE는 고객과 한 팀을 이뤄 AI를 적용했을 때 투자수익률이 큰 업무부터 찾아낸다. 이후 필요한 기능을 모듈 형태로 빠르게 구성하고 스프린트를 반복하면서 사용성을 개선하고 위험을 확인한 뒤 현장에 적용한다. 검증된 결과는 다른 업무로 확산한다.

박 전무는 “모든 것을 한 번에 바꿀 수는 없다”며 “무엇이 가장 가려운지를 찾는 과제 발굴부터 시작해 AX를 적용했을 때 가장 큰 ROI가 나오는 영역을 찾아 빠르게 구성하고 현장에 도입한 뒤 스케일업해야 한다”고 말했다.

아모레 R&D 데이터 연결...우리은행 AI는 상담 넘어 거래까지

KT는 이날 실제 산업 현장에 적용한 고객사의 사례도 공유했다.

아모레퍼시픽과 진행한 ‘데이터하이웨이’ 프로젝트는 R&D 영역에 흩어진 원료와 처방, 연구보고서, 실험 데이터 등을 AI가 활용할 수 있도록 연결한 사례다.

박 전무는 “아모레퍼시픽의 핵심 연구 데이터를 외부로 내보내지 않으면서 AI를 활용할 수 있도록 데이터 통제권을 확보하고 정형·비정형 데이터를 구조화해 AI가 일관된 결과를 내놓을 수 있는 데이터 아키텍처를 구축했다”고 밝혔다.

우리은행에는 ‘에이전틱 AICC’를 적용했다. 기존 AICC가 고객 질문에 답하거나 상담하는 역할이었다면 에이전틱 AICC는 계좌 개설이나 거래처리 등 실제 금융 업무까지 수행하는 방향으로 역할을 넓힌다.

박 전무는 “AICC가 단순 콜센터나 상담센터, 마케팅센터를 넘어 거래처리까지 하는 방향으로 가고 있다”며 “기존 콜봇 이용에 익숙한 고객을 대상으로 AI 서비스 접점을 확대할 수 있다”고 설명했다. KT는 이를 위해 AICC와 에이전트옵스(AgentOps), 대규모언어모델 운영(LLMOps), 머신러닝 운영(MLOps)을 패키지화해 기업별 환경에 맞게 구축한다.

메리츠화재에는 AI 어시스턴트를 적용해 보험 영업 전 과정을 연결하고 있다. 보험 전문 데이터와 설계사가 축적한 노하우를 AI와 결합해 설계사의 생산성을 높이는 방식이다.

박 전무는 기업과 산업을 넘어 국가 차원에서도 AI를 ‘잘 쓰는 능력’이 경쟁력을 좌우할 것으로 내다봤다. 한국이 인터넷을 활용해 IT 강국으로 성장한 것처럼 AI 역시 잘 활용하면 행정 효율화와 공공서비스 혁신, 기업 생산성 향상을 통해 산업 경쟁력을 높이고 국민의 삶의 질과 서비스 접근성을 개선할 수 있다고 강조했다.

박 전무는 “AI 인프라와 데이터, 플랫폼, 서비스, 현장 실행 역량을 유기적으로 연결해 AI를 기술에서 가치로, 가능성에서 성장으로 전환할 방침”이라며 “기업과 공공, 국민이 AI의 가치를 실질적으로 체감할 수 있도록 지원하고, 대한민국이 AI를 가장 잘 활용하는 나라로 도약하는 데 기여하겠다”고 말했다.

이어 “KT는 AX 밸류 파트너로서 열과 성을 다하겠다”고 강조했다.