[SW키트] AI 인프라 비용 폭증 시대…"엣지·분산 클라우드로 탈피"

"중앙집중형 데이터센터에 과도 집중"…아카마이·딥엑스 대안 부상

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주]

전 세계가 인공지능(AI) 인프라 확장으로 비용 부담이 커지고 있는 가운데 분산 클라우드와 온디바이스 AI가 대안으로 부상하고 있다. 이를 통해 중앙집중형 데이터센터 의존도를 낮추고, AI를 효율적으로 구동하기 위한 전략이다. 

6일 IT 업계에 따르면 글로벌 AI 인프라 경쟁이 격화하면서 막대한 전력과 비용 부담이 커질 것이란 전망이 나오면서 업계에선 이같은 대안책을 제시하고 있다. 단순히 데이터센터 확장만으로는 전력이나 비용 부담을 그대로 감당하기 어렵다는 판단에서다. 

인공지능(AI) 인프라 확장 경쟁으로 비용 부담이 커지고 있는 가운데 분산 클라우드와 온디바이스 AI가 대안으로 부상하고 있다. (사진=구글 제미나이)

그동안 글로벌 AI 인프라 경쟁력은 그래픽처리장치(GPU) 확보, 데이터센터 확장에 집중됐다. 이에 국내 업계는 이 과정에서 전력과 비용이 천문학적으로 늘어났다는 점을 문제로 지적했다. 딥엑스 김강욱 부사장은 최근 국회 세미나에서 "현재 국가별 AI 자원 격차가 경쟁력 차이로 이어질 수 있다"며 "국내 AI 인프라 규모가 상대적으로 적은 만큼 대안을 마련해야 한다"고 주장했다. 

이에 업계는 AI 연산을 중앙에 집중시키지 않는 구조에 눈을 돌리고 있다. 사용자와 가까운 곳에서 AI를 처리해 지연을 줄이고 인프라 부담을 낮추는 방식이다. 

대표 사례로 아카마이의 분산 클라우드가 꼽히고 있다. 아카마이는 전 세계 4천400여 개 네트워크 거점(POP) 기반 분산 엣지 플랫폼으로 AI 모델 추론을 수행하고 있다. 중앙 데이터센터 대신 네트워크 엣지단에서 AI 연산을 처리할 수 있는 구조다. 

분산 클라우드는 기존 클라우드와 달리 데이터센터에서 연산을 따로 모을 필요가 없다. 사용자와 가까운 엣지 서버에서 필요한 연산을 수행할 수 있어서다. 이에 AI 응답 속도를 높이고 트래픽 부담까지 줄일 수 있다. 

이경준 아카마이코리아 대표는 "향후 AI 인프라 핵심은 데이터가 생성되는 곳에서 바로 추론까지 이뤄지는 구조일 것"이라며 "이는 중앙집중형 클라우드보다 성능과 비용을 동시에 관리할 수 있다"고 지디넷코리아 인터뷰를 통해 강조했다.

"AI 처리에 클라우드 의존 벗어야"

클라우드에만 의존하는 기존 AI 처리 구조에도 변화가 필요하다는 의견이 나오고 있다. (사진=이미지투데이)

IT 업계는 클라우드에만 의존하는 기존 AI 처리 구조에도 변화가 필요하다고 봤다. 모든 데이터를 원격 서버로 보내야 지식 처리와 판단이 이뤄지는 방식은 전력과 비용 부담을 키울 수 있다는 지적이다.

딥엑스 김강욱 부사장은 개별 단말기에서도 지식 기반 AI 처리가 가능하도록 하는 전략이 필요하다고 강조했다. 일상적인 질의나 판단은 기기 내부에서 처리하고, 복잡한 연산만 클라우드가 맡는 구조다.

딥엑스는 온디바이스 AI용 시스템 반도체를 개발하는 기업이다. 데이터센터용 그래픽처리장치(GPU)와 달리, 저전력·저비용 신경처리장치(NPU)를 설계해 단말기 자체에서 AI 연산이 가능하도록 지원하고 있다.

특히 스마트폰, 가전, 차량, 로봇 등 다양한 기기에 AI를 내장해 중앙 클라우드 의존도를 낮추는 전략을 추진한다. 해당 기술은 최근 바이두에 공급됐으며, 회사는 내년을 목표로 기업공개(IPO) 절차를 밟고 있다.

김 부사장은 "이 같은 구조가 구현되면 대규모 데이터센터를 추가로 짓지 않아도 AI 서비스를 확장할 수 있다"며 "AI 연산을 분산 처리함으로써 전력 소모와 인프라 집중도를 낮출 수 있다"고 밝혔다.