AI 토큰도 통신처럼 판다...KT, 생산·유통 사업 진출

[이슈진단+] KT 토큰팩토리① 통신 과금 노하우로 기업용AI 공략

KT가 AI 모델을 공급하고 사용량에 따라 요금을 받는 새로운 사업을 시작한다. 음성통화와 데이터 사용량을 측정해 과금하던 통신사업 방식을 AI 토큰 시장으로 확장하는 방식이다. KT가 구상한 토큰팩토리는 자체 데이터센터에서 토큰을 직접 생산하는 동시에 외부 AI 모델을 유통하고, 기업의 AI 이용 비용까지 통합 관리하는 체계다.

박상원 KT AX사업부문장은 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 “AI가 기업이나 산업이나 여러 업무에 적용돼서, 이제는 성능에서 실질적인 성과와 가치 창출로 어떻게 전환하느냐가 가장 중요한 화두가 됐다”고 밝혔다.

기업의 AI 전환에 필요한 조건으로는 실행과 효율, 신뢰를 꼽았다. AI를 기존 데이터와 업무 체계에 연결하는 것뿐 아니라 도입 비용과 정보보안 문제까지 해결해야 한다는 설명이다. KT는 토큰팩토리를 통해 AI 모델을 효율적으로 공급하고 기업이 안심하고 활용할 수 있는 환경을 제공한다는 구상이다.

박상원 KT AX사업부문장이 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 토큰팩토리를 설명하고 있다. (사진=지디넷코리아)

박 전무는 “빠르게 바뀌는 세상에서 빠르고 쉽게 AI로 전환하고 비용과 효율성을 다 잡아야 한다”며 “필요한 AI를 쉽고 경제적으로 도입하고 확장할 수 있는 체계가 중요하다”고 강조했다.

오는 30일 출시를 앞둔 토큰팩토리는 여러 AI 모델을 하나의 플랫폼에서 제공하고 사용량을 측정해 요금을 정산하는 서비스다. 토큰은 AI가 입력된 문장을 처리하거나 답변을 생성할 때 사용하는 기본 단위다. 기업이 AI를 많이 사용할수록 토큰 소비량과 이용료가 증가한다.

AI 토큰 시장 급성장…기업 AX 사업과 연결

KT가 토큰 사업에 주목한 배경에는 빠르게 늘어나는 AI 이용량이 꼽힌다.

이진형 KT AX사업본부장은 글로벌 AI 모델 중개 플랫폼 오픈라우터의 통계를 인용해 최근 1년간 토큰 처리량이 35배 증가했다고 설명했다. 이 기간 처리된 토큰은 약 172조 개에 달한다.

이 본부장은 AI를 이용해 로또 번호 분석 프로그램을 만드는 과정을 시연했는데, 역대 당첨번호를 분석하는 프로그램 제작에 약 3600만 토큰이 사용됐고, 비용은 약 15달러가 발생했다.

AI가 단순한 질문에 답하는 수준을 넘어 프로그램 개발과 복잡한 추론까지 수행하면서 토큰 소비량이 빠르게 늘고 있다는 대목이다. 기업이 AI 에이전트를 활용해 업무를 자동화할수록 토큰 이용료와 관리 부담도 커질 수밖에 없다.

이진형 KT AX사업본부장이 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 토큰팩토리를 설명하고 있다. (사진=지디넷코리아)

KT는 토큰팩토리를 기존 기업용 AI 전환(AX) 사업과 결합할 계획이다. 기업에 AI 에이전트를 구축하거나 클라우드 환경을 전환하고, AI가 활용할 수 있도록 데이터를 정제하는 사업에 모델 공급 기능을 추가하는 방식이다.

이 본부장은 “기업이 AI 에이전트를 구축한 뒤에도 새로운 모델이 출시될 때마다 이를 적용해야 하고, 조직별로 어떤 모델을 사용하는지 파악하기 어렵다는 점이 기존 AX 사업의 과제”라고 설명했다.

이어 “토큰팩토리로 이러한 문제를 해결하면서 기업 전용회선과 프라이빗 클라우드, AI 에이전트 구축 사업을 함께 공급할 계획”이라며 “통신 인프라부터 AI 모델 이용까지 기업 고객의 수요를 묶어 제공하는 전략”이라고 덧붙였다.

AI 모델 73종 공급, 중개와 직접 생산 병행

KT는 토큰팩토리 출시 시점에 73종의 AI 모델을 제공한다. 이 가운데 7종은 국내 AI 데이터센터와 그래픽처리장치(GPU)를 활용해 직접 운영하는 모델이다. 업스테이지와 모티프 등 국내 AI 기업의 모델과 KT가 개발한 1200억 파라미터급 모델도 포함된다.

11월에는 오픈라우터와 협력해 약 500종의 모델을 추가로 연결할 계획이다. 해외 AI 모델을 국내 기업에 공급하는 동시에 국내 AI 모델을 오픈라우터에 등록해 해외 이용자에게 판매하는 사업도 추진한다.

이 본부장은 “KT와 국내 스타트업이 개발한 한국의 AI 모델을 오픈라우터에 통신사 최초로 등록해 전 세계에 판매할 예정”이라며 “입점과 판매를 동시에 추진하는 전략적 관계를 맺었다”고 밝혔다.

토큰팩토리의 사업 구조는 크게 두 가지다. 외부 AI 모델을 연결해 판매하는 중개 사업과 KT가 보유한 인프라에서 모델을 직접 구동해 토큰을 공급하는 사업이다. 글로벌 AI 시장에는 오픈라우터처럼 여러 모델을 모아 유통하는 사업자와 투게더AI, 파이어웍스AI처럼 자체 인프라에서 모델을 운영하는 사업자가 있다. KT는 두 가지 방식을 모두 활용해 사업을 확대한다는 방침이다.

특히 외부 모델을 중개하고 수수료만 받는 방식에 의존하지 않겠다는 구상이다.

이 본부장은 “글로벌 AI 모델 중개 사업자들이 약 5%의 수수료를 받지만, KT는 이를 주력 수익원으로 삼지 않겠다”면서 “국내 데이터센터의 GPU에서 모델을 직접 운영해 토큰을 생산하고, 모델 공급사와 체결한 계약을 바탕으로 수익을 확보하겠다”고 말했다.

외부 모델을 공급할 때도 KT가 개발한 모델 라우팅과 토큰 최적화, 보안 기능을 결합한다. 오픈라우터의 서비스를 그대로 재판매하는 대신 AI 모델만 연계하고 부가 기능은 자체 기술로 제공한다는 설명이다.

기업 전용회선과 프라이빗 클라우드 등 기존 통신사업과 결합한 판매도 추진한다. AI 모델 사용료뿐 아니라 통신 인프라와 클라우드, 에이전트 구축 서비스까지 연결해 기업 고객의 지출을 확보하겠다는 전략이다.

통신요금처럼 사용량 정산, 기업 약정제 도입

토큰팩토리에는 KT가 통신사업에서 축적한 이용량 측정과 과금 기술도 적용된다.

KT는 통신사가 통화 이용 내역을 관리하는 통화상세기록(CDR)과 유사한 개념으로 토큰상세기록(TDR)을 정의했다. AI 모델별 토큰 사용량을 기록하고 요금 정책을 적용해 기업에 통합 청구하는 방식이다.

이 본부장은 “통신에서 과금할 때 사용하는 CDR과 동일한 개념과 기법으로 TDR을 생성하고, 토큰 사용량을 기록한 뒤 요금 정책을 적용해 통합 청구하는 방식을 사용한다”고 했다.

이를 통해 기업은 어떤 모델을 얼마나 사용했고 비용이 얼마 발생했는지 한곳에서 확인할 수 있다. 모델 개발사마다 별도로 계약하고 이용료를 관리해야 하는 부담을 줄이는 것이 목적이다.

KT 토큰팩토리 개요 (사진=KT)

요금제는 스탠다드와 엔터프라이즈로 구분된다. 스탠다드는 사용량에 따라 요금을 내는 방식으로 후불 정산과 선불 크레딧을 모두 지원한다. 엔터프라이즈는 사용 규모와 계약 기간을 고려해 할인과 맞춤형 서비스를 제공한다. 기업이 원할 경우 KT 전용망을 통해 AI 트래픽을 처리하고, 서비스수준협약(SLA)을 통해 품질을 보장하는 방식도 지원한다.

통상적으로 기업이 선불 크레딧보다 후불 약정과 월별 정산을 선호한다는 점을 고려해 설계한 요금 체계다. KT는 이를 바탕으로 올해 말까지 기업 고객 확보에 집중하고, 내년 3월에는 개인 개발자 등을 위한 구독형 요금제를 선보일 계획이다.

국내 인프라에서 직접 운영하는 AI 모델도 현재 7종에서 내년 10여 종으로 확대한다. 금융권에는 국내 데이터센터에서 구동되는 모델과 보안 기능을 결합해 공급하고, 공공시장에는 관련 규제와 클라우드 이용 기준을 고려해 진출할 방침이다.

KT는 2028년까지 토큰팩토리 사업의 매출 확대를 추진한다. 자체 GPU에서 생산하는 토큰의 비중을 높이고 기존 통신 클라우드 고객 AI 이용 수요를 연결하는 것이 핵심이다.

이 본부장은 “통신사업의 과금 단위가 음성통화의 '분'에서 인터넷과 이동통신의 '바이트'로 바뀌어 왔다”며 “2026년 KT는 이제 '토큰'을 기반으로 과금하고, 토큰 트래픽을 정산하고 라우팅하는 사업자가 되려고 한다”고 밝혔다.