[현장] "AI모델 보다 플랫폼·운영 역량 중요"…K-AI PaaS 서밋 2026 개최

AI 서비스 운영·자동화·자원 관리 주목…국산 AI 운영 생태계 구축 강조

인공지능(AI) 시대 전환에 따른 인프라 패러다임 변화와 실행·운영 중심 플랫폼 전략이 제시되며 국내 클라우드 및 AI 생태계의 방향성이 논의됐다.

한국인공지능클라우드산업협회(KACI)는 25일 서울 양재 엘타워에서 '제4회 K-AI PaaS 서밋 2026'을 개최하고, AI 시대 인프라 전략과 플랫폼 진화 방향을 공유했다.

이번 행사는 AI 기술이 모델 중심 경쟁에서 서비스 운영 중심 경쟁으로 이동하는 흐름 속에서, GPU 활용 효율성, 쿠버네티스 기반 AI 운영 구조, AI PaaS 진화 전략 등이 핵심 의제로 다뤄졌다.

제4회 K-AI PaaS 서밋 2026(사진=지디넷코리아)

AI 주권, 플랫폼 없이 완성될 수 없어

KACI PaaS 지원 분과 위원장인 정철 나무기술 대표는 개회사에서 소버린 AI(AI 주권) 관점에서 PaaS의 전략적 가치를 강조했다.

그는 "AI 모델은 보유하고 있지만 이를 운영할 플랫폼이 해외 기술에 전적으로 의존한다면 진정한 의미의 AI 주권을 확보했다고 말하기 어렵다"며 군사·안보·금융·의료 등 민감 영역의 데이터와 추론이 외국 플랫폼에만 의존하는 것은 비용이 아닌 경제 안보의 문제라고 지적했다.

KACI PaaS 지원 분과 위원장인 정철 나무기술 대표(사진=지디넷코리아)

이어 "기술적으로 PaaS는 AI 워크로드의 토대, 정책적으로 클라우드 네이티브 전환의 핵심, 전략적으로 소버린 AI를 떠받치는 기둥"이라고 규정했다.

영상 메시지로 환영사를 전한 김봉균 KACI 협회장도 "AI 경쟁력은 우수한 모델 확보를 넘어 얼마나 효과적으로 구현하고 안정적으로 운영할 수 있느냐에 달려 있다"며 "스스로 판단하고 수행하는 에이전틱 AI(Agentic AI) 시대로의 전환이 가속화되는 가운데 AI PaaS의 중요성이 더욱 커지고 있다"고 말했다.

서비스 빌더와 에이전트 빌더 결합한 복합 PaaS

공용준 KT클라우드 본부장은 'PaaS의 부활, 복합 PaaS(Rebirth of PaaS, Composite PaaS)'를 주제로 발표했다.

공 본부장은 기존 PaaS가 애플리케이션 개발·배포를 담당하는 '서비스 빌더' 역할을 수행해왔다면, 생성형 AI 시대에는 AI 에이전트 개발 환경인 '에이전트 빌더'가 함께 필요하다고 설명했다. 그는 두 환경이 유기적으로 통합된 형태를 '복합 PaaS'라고 정의했다.

공용준 KT클라우드 본부장(사진=지디넷코리아)

복합 PaaS는 서비스 개발 환경과 에이전트 개발 환경을 중심으로 데이터 플랫폼, AI 런타임, 거버넌스 플랫폼이 결합된 구조로 구성되며, 이를 통해 기업들이 AI 서비스를 보다 체계적으로 구축할 수 있다고 설명했다.

공 본부장은 "GPU와 데이터센터 중심의 AI 인프라 시장도 성장하겠지만 AI 플랫폼 소프트웨어 시장은 더욱 빠르게 확대될 것"이라고 전망했다.

이어 최근 메타 최고경영자(CEO) 마크 저커버그의 발언을 인용하며 "AI 에이전트만으로 모든 것을 해결할 수 있을 것이라는 기대는 현실과 달랐다"며 "플랫폼과 인프라, 그리고 사람이 함께 결합된 생태계가 중요하다"고 강조했다.

"학습의 시대에서 추론의 시대로"…AI 운영 플랫폼 중요성 부상

장현 나무기술 상무는 'AI 플랫폼의 진화, 실행·운영 중심 AI PaaS 전략'을 주제로 AI 워크로드 패러다임 전환을 짚었다.

장 상무는 2023년에는 AI 컴퓨팅 자원의 67%가 학습에 쓰였으나 2026년에는 추론이 67%를 차지하는 방향으로 역전됐다고 설명했다.

장현 나무기술 상무(사진=지디넷코리아)

그는 "AI 학습의 시대는 가고, 상시 구동되는 추론 인프라의 시대가 도래했다"며 GPU를 '얼마나 사느냐'보다 '얼마나 잘 쓰느냐'가 핵심 과제라고 강조했다.

장 상무는 AI PaaS 3대 기술 축으로 ▲GPU 지능형 스케줄링 및 자원 최적화 ▲MLOps·LLMOps를 통한 모델 운영 자동화 ▲AIOps 기반 IT 운영 효율화를 제시했다.

나무기술은 클라우드 네이티브 플랫폼 '칵테일 클라우드(Cocktail Cloud)'와 GPU 자원 최적화 솔루션 '칵테일 옵티마이저(Cocktail Optimizer), 멀티·하이브리드 클라우드 통합 관리 플랫폼 '스패로우' 등으로 이에 대응하고 있다고 밝혔다. 근로복지공단 고용산재보험 토탈서비스에 칵테일 클라우드를 적용해 응답속도를 기존 대비 95% 단축한 사례도 공개했다.

AI 경쟁 핵심은 모델이 아니라 운영

권경민 이노그리드 CTO는 기업이 직면한 AI 과제가 모델 확보보다 운영 효율성 확보에 있다고 진단했다.

권 CTO는 "최근 고객이 겪는 가장 큰 어려움은 GPU 활용률 저조와 운영 환경 복잡성, 자동화 부족, 비용 관리 문제"라며 "모델을 구하는 것보다 데이터를 준비하고 배포를 자동화하며 보안과 품질, 비용을 관리하는 것이 더 중요한 시대가 됐다"고 말했다.

AI 서비스가 단순 질의응답을 넘어 검색증강생성(RAG), 외부 API, 사내 시스템을 연계하는 복합 AI 구조로 발전하고 있으며 앞으로는 여러 AI 에이전트가 협업하는 멀티 에이전트 환경이 일반화될 것이란 전망이다.

권경민 이노그리드 CTO(사진=지디넷코리아)

이에 따라 AI PaaS 역시 모델 운영을 위한 ML옵스와 생성형 AI 운영을 위한 LLM옵스를 넘어 에이전트의 행동과 권한, 작업 이력까지 추적·감사할 수 있는 에이전트옵스를 포함하는 방향으로 발전해야 한다고 설명했다.

또한 추론 중심 시대에는 GPU 활용 효율성이 핵심 경쟁력이 될 것이라고 강조했다. GPU를 세분화해 여러 서비스가 공유하고, 성능 간섭을 최소화하면서 실시간 상태를 분석하는 운영 기술이 중요해지고 있다는 설명이다.

권 CTO는 "국내 AI 플랫폼 생태계는 아직 통합 운영 플랫폼과 글로벌 데이터·모델 연계 생태계, GPU와 국산 NPU를 함께 관리할 수 있는 XPU 통합 플랫폼이 부족하다"며 "AI PaaS와 GPU 공유 서비스, 'AI 클라우드 관리 플랫폼(CMP)을 하나의 컨트롤 플레인으로 통합하는 방향이 필요하다"고 말했다.

이번 행사에서는 맨텍솔루션, 올리브웍스, 클러쉬, 레드햇, 인젠트, 오픈소스컨설팅, 가온아이, 디딤 등 국내외 AI·클라우드 기업도 GPU 인프라 운영, AI 보안 전략 등을 주제로 발표를 이어갔다.