[컨콜] LG CNS "AI 비용관리가 경쟁력…에이전틱웍스로 운영 최적화"

MSP 사업에 LLM 게이트웨이 적용…토큰 사용량·비용 통합 관리 추진

LG CNS가 기업들의 인공지능(AI) 활용이 단순한 사용량 확대를 넘어 비용 대비 성과를 중시하는 단계로 전환되고 있다고 진단했다. 이에 맞춰 자체 AI 플랫폼 '에이전틱웍스'를 중심으로 토큰 사용량과 비용을 통합 관리하는 AI 운영 플랫폼을 고도화한다는 전략이다.

진요한 LG CNS AI센터장은 31일 2분기 실적 발표 컨퍼런스콜에서 "기업의 AI 활용은 단순한 사용량 확대를 넘어 비용 대비 성과를 중시하는 단계로 전환되고 있다"며 "이와 관련한 사업 기회도 더욱 확대될 것으로 보고 있다"고 말했다.

그는 "에이전틱웍스는 챗GPT·클로드·제미나이 등 주요 AI 서비스의 사용량과 비용을 서비스별·조직별·사용자별로 확인할 수 있는 'AI 핀옵스' 대시보드를 제공한다"며 "사용자별 데이터 조회 권한 관리 기능을 통해 더욱 안전한 비용 관리 체계를 지원하고 있다"고 설명했다.

LG CNS 본사 전경 (사진=LG CNS)

이어 "보안 요건과 업무 특성에 따라 적합한 AI 모델을 연결하고 성능과 비용을 함께 최적화하는 지능형 라우팅 기능도 강화하고 있다"며 "AI 코딩 분야에선 글로벌 전문기업과 개념검증(PoC)을 진행하며 상용 거대언어모델(LLM)과 온프레미스 경량 모델의 성능 및 비용 효율성을 비교·검증하고 있다"고 덧붙였다.

그러면서 "관리 서비스(MSP) 사업에선 각 클라우드 서비스 제공사(CSP)의 AI 플랫폼 서비스를 활용한 최적 아키텍처를 구성하고 고객 환경에 맞춘 AI 플랫폼을 구축해 토큰 기반 서비스를 구현하고 있다"며 "CSP 환경 내 LLM 게이트웨이를 통해 사용량과 비용을 모니터링하고 업무 생산성 향상용 LLM의 모델 선택까지 통합 관리할 수 있는 핀옵스형 관리 도구를 준비 중"이라고 밝혔다.