[인터뷰] "GPU·AI 모델만으론 부족…정부 AI 정책에 플랫폼 넣어야"

정철 KACI ANP 분과위원장 "외산 AI 쓰더라도 갈아탈 수 있어야…개방형 플랫폼 필요"

"그래픽처리장치(GPU)와 데이터센터를 확충하고 훌륭한 인공지능(AI) 모델을 만드는 것만으로는 국가와 기업의 AI 경쟁력이 완성되지 않습니다. 인프라와 모델을 실제 산업 현장에서 쓸 수 있도록 연결하는 플랫폼이 반드시 필요합니다."

정철 한국인공지능클라우드산업협회(KACI) AI 네이티브 플랫폼(ANP) 분과위원회 위원장은 21일 서울 마곡 나무에이엑스 본사에서 지디넷코리아와 만나 이같이 강조했다.

KACI는 최근 기존 서비스형 플랫폼(PaaS) 지원분과위원회 명칭을 ANP 분과위원회로 변경했다. 생성형 AI와 AI 에이전트 확산으로 기업의 관심이 단순 클라우드 전환을 넘어 AI 모델·데이터·GPU를 실제 업무와 연결하는 단계로 이동하면서 기존 PaaS 역할도 AI 개발·배포·운영 전반으로 확대해야 한다는 판단에서다.

기존 산업이 축적한 기술과 경험을 계승하면서 AI 시대 플랫폼 산업의 범위와 역할을 새롭게 정립하겠다는 취지다.

정철 KACI ANP 분과위원장 (사진=나무에이엑스)

"발전소 지어놓고 배전망 빠진 셈"…AI 정책에 플랫폼 넣어야

정 위원장은 국가 AI 정책에서 플랫폼을 독립적인 영역으로 다뤄야 한다고 짚었다. 현재 정부 투자가 GPU·데이터센터 등 인프라 확보와 AI 모델 개발에 집중된 반면 이를 기업의 실제 서비스로 연결하는 플랫폼에 대한 정책적 정의는 상대적으로 부족하다는 지적이다.

그는 이를 전력망에 비유했다. GPU와 데이터센터가 발전소이고 AI 모델이 여기서 생산된 전기라면 플랫폼은 이를 기업과 산업 현장까지 전달하는 배전망이라는 설명이다.

정 위원장은 "발전소를 아무리 많이 짓고 좋은 전기를 생산해도 이를 기업까지 전달하는 배전망이 없으면 실제 산업에서 활용하기 어렵다"며 "플랫폼 기업을 위한 예산이 필요하다는 게 아니라 AI 정책을 설계할 때 인프라와 서비스 사이에 플랫폼이라는 영역을 명확하게 정의해 달라는 것"이라고 밝혔다.

특히 자체 인력과 자본으로 AI 운영 환경을 구축하기 어려운 중견·중소기업에는 플랫폼 역할이 더욱 중요하다고 봤다. AI 시대에는 기존 PaaS가 담당했던 CPU·메모리·애플리케이션 관리를 넘어 고가의 GPU부터 모델, 데이터, 추론, AI 서비스 품질까지 통합적으로 관리해야 하기 때문이다.

GPU 활용 효율이 대표적인 사례다. 플랫폼을 통해 GPU를 분할·공유하고 작업을 스케줄링하면 한정된 자원을 보다 효율적으로 활용할 수 있다.

정철 위원장이 중견·중소기업의 AI 플랫폼 필요성을 강조했다. (사진=KACI)

정 위원장은 "GPU를 한 장 더 사는 것보다 이미 확보한 GPU를 최대한 효율적으로 사용하는 것이 훨씬 빠르고 비용도 적게 든다"며 "GPU를 나누고 배분하고 운영·관리하면서 활용률을 높이는 것이 AI 네이티브 플랫폼의 핵심 역할 가운데 하나"라고 말했다.

생성형 AI 특성상 지속적인 운영·관리도 필요하다. 기존 애플리케이션과 달리 정상 작동 중에도 환각 현상이 발생할 수 있고 모델 업데이트 주기도 빨라 지속적인 품질 관측과 재학습·배포가 요구된다.

정 위원장은 "AI는 서비스를 한번 배포했다고 끝나는 것이 아니라 계속 관찰하고 문제가 생기면 다시 학습하고 배포하는 과정이 반복된다"며 "새로운 모델과 기술을 기업이 바로 활용할 수 있도록 연결하고 운영하는 역할도 플랫폼이 담당해야 한다"고 강조했다.

외산 쓰더라도 갈아탈 수 있어야…플랫폼 종속 경계

정 위원장은 국내 AI 플랫폼 산업을 육성해야 하는 또 다른 이유로 선택권을 꼽았다. 글로벌 AI 모델과 클라우드를 활용하더라도 특정 사업자에 종속되지 않고 필요에 따라 모델과 인프라를 바꿀 수 있는 환경이 필요하다는 주장이다.

특히 데이터와 모델뿐 아니라 이를 운영하는 플랫폼까지 특정 기술에 종속되면 전환 비용이 더욱 커질 수 있다고 봤다.

그는 "오픈AI 챗GPT든 다른 해외 첨단 AI 모델이든 좋은 서비스를 사용하는 것은 문제가 아니다"라며 "중요한 것은 필요할 때 다른 모델이나 인프라로 쉽게 바꿀 수 있어야 한다는 것"이라고 말했다.

이어 "플랫폼까지 특정 기술에 종속되면 모델을 바꾸고 싶어도 운영 환경 전체를 다시 구축해야 할 수 있다"며 "쿠버네티스처럼 개방형 표준을 기반으로 이식성과 상호운용성을 확보해야 한다"고 덧붙였다.

정철 위원장은 AI 모델, 인프라 영역과 달리 AI 플랫폼 영역에선 국내 기업에도 기회가 크다고 밝혔다. (사진=KACI)

국내 플랫폼 기업에도 기회가 있다고 짚었다. 미국 빅테크와 투자 규모나 생태계 자체로 경쟁하기는 어렵지만 국내 기업들은 지난 10여 년간 PaaS와 클라우드 네이티브 시장에서 기술과 구축 경험을 축적했다. 특히 공공·금융·의료처럼 규제와 보안 요구가 높고 온프레미스·프라이빗 클라우드 구축이 필요한 시장에선 강점을 발휘할 수 있다는 설명이다.

다만 GPU 자원을 분할·할당하는 관리 기술과 추론·데이터 최적화 등 AI 시대 새롭게 요구되는 일부 분야에서는 글로벌 기업과 격차가 있다고 인정했다.

정 위원장은 "미국은 관련 수요가 많아 기술 개발과 실증이 빠르게 이뤄졌지만 국내에는 그동안 수요 자체가 부족했다"며 "국내 기업도 실제 환경에서 기술을 검증하고 레퍼런스를 쌓을 수 있는 사업이 필요하다"고 밝혔다.

공공부터 플랫폼 별도 과업으로…금융·제조 등 산업별 확산

ANP 분과위원회는 플랫폼을 정부 AI 정책의 독립적인 영역으로 정립하는 데 우선적으로 나설 계획이다. 공공 AI 사업에서 플랫폼 구축을 별도 과업으로 명시하고 기술 중립적인 발주 체계를 마련하는 것도 주요 과제로 꼽았다.

현재 플랫폼 구축이 대형 시스템통합(SI) 사업에 포함되는 경우가 많아 전문기업이 직접 경쟁하거나 레퍼런스를 확보하기 어렵다는 이유에서다. 기존 수행 실적을 요구하는 발주 방식도 신기술 기업의 시장 진입을 어렵게 만드는 요인으로 지적했다.

정 위원장은 "공공사업을 발주할 때 플랫폼을 별도 과업으로 명시하고 특정 기업의 제품 사양이 아니라 필요한 기능과 성능을 중심으로 기술 중립적인 규격을 만들어야 한다"며 "여러 플랫폼 기업이 동일한 조건에서 기술력으로 경쟁할 수 있는 구조가 필요하다"고 강조했다.

산업별 특성을 반영한 플랫폼 구축도 필요하다고 봤다. 금융은 보안과 규제 준수, 제조는 축적된 산업 데이터 활용, 공공은 구축 속도와 비용 효율성, 의료는 민감한 데이터를 보호하기 위한 데이터 주권 등 요구사항이 서로 다르기 때문이다.

정철 위원장이 ANP 분과 활동을 통해 정부·국회와 정책 협력을 확대하겠다는 계획을 제시했다. (사진=KACI)

그는 국내 기업들이 PaaS와 클라우드 네이티브 분야에서 상당 기간 기술과 경험을 축적한 만큼, AI 네이티브 환경에 맞춰 기술을 고도화하고 충분한 레퍼런스를 확보하면 해외 시장 진출도 가능할 것으로 내다봤다.

ANP 분과위원회도 정부·국회와 정책 협력을 확대하고 AI 네이티브 플랫폼의 산업·기술적 범위를 구체화할 계획이다. 공공사업의 기술중립성과 상호운용성·이식성을 강화하고 제조·금융·공공·의료 등 수요 산업과 플랫폼 기업을 연결해 실증과 사업화 기회를 확대한다는 방침이다.

정 위원장은 "국내 플랫폼 기업 몇 곳의 몸집을 키우는 것이 목표가 아니라 플랫폼을 통해 AI가 실제 기업의 업무 역량과 생산성을 높일 수 있도록 생태계를 만들 것"이라며 "정부 AI 정책에서 플랫폼의 역할이 명확하게 정의되고 국내에서 기술과 레퍼런스를 쌓는 선순환이 만들어진다면 향후 해외 시장에서도 경쟁할 수 있는 산업으로 성장할 수 있을 것"이라고 밝혔다.