"앱 설치 없이 포털·쇼핑서 바로 쓴다"…KT, 대국민 AI '이음' 승부수

KT가 전 국민을 위한 인공지능(AI) 챗봇·에이전트 '이음'을 검색·쇼핑·부동산 등 일상적인 생활 서비스 속으로 확산한다. 범용 검색이나 대화만으로는 챗GPT 등 빅테크 AI에 익숙해진 이용자를 유인하기 어렵다는 판단에서 자체 플랫폼을 먼저 구축하고 이를 기존 서비스에 심는 '양방향 AI' 전략을 추진한다.

이진형 KT AX사업본부장은 지난 11일 열린 '모두의 AI' 온라인 설명회에서 "새로운 AI 서비스를 만들고 이를 기존 서비스와 연결해 접점을 넓히겠다"며 "이용자 상황과 생애주기에 맞춰 필요한 서비스를 먼저 제안하는 개인화에 집중할 것"이라고 밝혔다.

과학기술정보통신부가 추진하는 모두의 AI는 대국민 AI 챗봇·에이전트 개발 프로젝트로, 누구나 비용 부담 없이 쉽게 AI를 활용할 수 있는 기반을 마련하기 위한 사업이다. KT는 SK텔레콤, 카카오와 더불어 모두의 AI 주관사로 선정됐다.

AI 서비스 연결 넘어 '개인화'로 차별화

이음은 독립 플랫폼으로 작동되는 만큼 초기 이용자 확보가 과제다. KT 컨소시엄은 이음 자체는 PC·모바일에서 단일 서비스로 제공하되 '이음 인사이드' 전략으로 다음·다나와·무신사·직방 등에 AI를 연결한다.

KT AX사업본부장이 지난 11일 열린 '모두의 AI' 온라인 설명회에서 발표하고 있다. (사진=KT)

이음 인사이드는 소프트웨어 개발 키트(SDK) 형태의 연동 수단을 통해 여러 서비스에 적용할 수 있다. 서비스 화면에는 '버블 버튼' 형태로 이음을 호출할 수 있다. KT는 이를 포털 다음과 컨소시엄 참여 기업 서비스, KT 지니TV 등으로 확대할 계획이다. 참여 기업들의 서비스 접점은 합산 6000만 이상에 달한다.

공공 서비스 신청·알림이나 예약·결제 등 핵심 에이전트 기능은 각 컨소시엄 간 차별화가 제한적일 수 있다. 정부가 얼마나 많은 공공 서비스 응용 프로그램 인터페이스(API)를 개방하느냐에 따라 구현 가능한 기능이 달라지기 때문이다. KT가 개인 탭과 공공 탭을 별도로 두고 개인화된 서비스 경험을 경쟁 우위로 내세운 것도 그래서다.

KT 컨소시엄은 연령·거주지역·생애주기 등에 맞춰 받을 수 있는 공공 혜택을 알려주고 대화형으로 신청·발급 절차까지 이음 앱과 웹 내에서 지원한다는 구상이다. 다만 정부가 관련 API를 개방하지 않은 서비스는 에이전트가 직접 처리하기 어려워 정부24 등 기존 채널로 이동해야 한다.

이 본부장은 "컨소시엄 참여사인 솔트룩스의 공공 백엔드 역량도 장점"이라며 "솔트룩스가 국민비서 등을 구축해 온 경험을 바탕으로 공공 정보와 API를 안정적으로 연계할 것"이라고 부연했다.

일반 서비스에서는 API 개방 여부에 따른 제약을 상대적으로 줄일 수 있도록 깊은 연동을 추진한다. 모델 컨텍스트 프로토콜(MCP) 연동을 넘어 데이터베이스(DB)까지 연결해 이용자 요청에 따라 실제 상품 데이터를 가져오고 비교·추천하는 식이다.

예를 들어 이용자가 다나와에서 창문형 에어컨을 검색한 뒤 이음을 호출하면 설치 환경과 같은 조건을 추가로 질문하고 실제 판매 제품을 비교해 구매까지 이어지도록 한다. 다음에서는 검색 맥락을 바탕으로 금융·메일·카페 등 다른 서비스 정보까지 연결하는 방식이 가능하다.

메모리를 활용한 개인화도 이음이 강조하는 기능 중 하나다. 이음은 이용자 관심사와 이전 대화·검색 맥락 등을 기억해 같은 질문에 일률적으로 답하는 대신 개인별 정보를 제공한다. 직방의 경우 관심 아파트와 관련해 새로운 실거래가나 매물 정보를 먼저 알려준다.

멀티모델에 GPU·NPU까지…'토큰 팩토리'로 효율화

이음 서비스는 KT의 AI 운영 플랫폼 '토큰 팩토리'를 중심으로 국산 AI 모델, 그래픽처리장치(GPU)와 리벨리온 신경망처리장치(NPU) 등 AI 반도체, 래블업과 베슬AI의 인프라 최적화 기술을 결합한다.

AI 모델로는 업스테이지 '솔라', 모티프테크놀로지스 '모티프', 솔트룩스 '루시아', NC AI '바르코', KT '믿음' 등이 활용된다. KT는 솔라를 주력 모델로 하면서도 작업 특성에 따라 모델을 라우팅한다는 계획이다.

이 본부장은 "솔라는 에이전트의 툴 호출과 추론 등에 활용하고 긴 문맥은 모티프, 3차원(3D)·음향은 NC AI, 멀티모달과 국산 반도체 활용에는 KT 모델을 활용한다"고 말했다.

토큰 팩토리는 사용자가 입력한 프롬프트 처리와 응답 생성을 분리해 각 단계에 최적화된 자원을 할당하면서 분당 토큰 처리량(TPM)을 31%가량 높일 방침이다. 다양한 프롬프트 압축 기술로 입력 토큰을 최대 80%까지 줄여 GPU 활용도 역시 높인다.

향후 GPU 확보량이 서비스 운영 성능과 직결되는 만큼 트래픽 증가에도 대비한다. KT는 정부 지원 GPU 외에도 자체 GPU를 추가 확보할 예정이다. 트래픽이 급증하면 서비스 이용량을 조절하거나 KT와 컨소시엄이 보유한 GPU 클러스터로 전환하는 체계를 마련한다.

이 본부장은 "토큰 팩토리는 AI 서비스 운영 비용을 낮춘다"며 "정부 GPU 100장을 지원받는다고 가정할 때 효율화 기술로 121장 수준의 효과를 낼 수 있다"고 강조했다. 그러면서 "절감된 비용을 생태계 기업이 크레딧이나 토큰 등 각자의 수익모델로 활용하는 방안도 검토하겠다"고 덧붙였다.

별도 앱 한계, 기존 서비스 접점으로 넘는다

이음을 앞세운 서비스 수익화는 당장 이용자에게 직접 요금을 받는 방식보다는 생태계 확장에 초점을 맞춘다. 서비스 내 크레딧과 토큰 형태의 모델을 활용하거나 전문 업무용 AI 에이전트를 유료화하는 방안 등을 검토하고 있다. 정부가 향후 대국민 유료 AI 서비스를 허용할 경우 프리미엄 에이전트를 별도로 제공하는 방안도 열어뒀다.

KT는 영농과 창업 등 더 많은 영역을 아우르기 위해 새로운 AI 모델과 서비스 기업의 참여도 확대할 예정이다. 현재 국내 주요 금융·호텔·식당 예약 분야의 기업들이 참여 의사를 밝힌 상태다. 오는 12월 정식 출시 이후에도 파트너를 지속적으로 늘릴 계획이다.

서비스 전반의 보안에 대해서는 AI 사업을 담당하는 별도 보안 조직을 두고 컨소시엄 차원의 보안 체계를 공유 및 강화하겠다는 입장이다. 개인정보보호와 관련해서는 정부와 다른 컨소시엄, 개인정보보호위원회와 함께 정보 안정성을 위한 태스크포스(TF)를 운영할 계획이다. 기존 계정을 활용해 별도의 복잡한 계정을 새로 만드는 것도 최소화한다는 방침이다.