아카마이, 코어에서 엣지까지 AI 추론 확장…'인퍼런스 클라우드' 공개

엔비디아 인프라 결합해 저지연·고확장 AI 처리 구현…글로벌 엣지 AI 생태계 구축 나서

아카마이가 인공지능(AI) 추론 기능을 중앙 데이터센터에서 인터넷 엣지까지 확장해 AI가 작동하는 위치와 방식을 새롭게 정의했다.

아카마이는 코어 데이터센터에서 인터넷 엣지까지 추론을 확장해 AI의 활용 영역과 방식을 재정의하는 플랫폼인 '아카마이 인퍼런스 클라우드'를 출시했다고 29일 밝혔다.

이번 신제품은 사용자와 디바이스에 가까운 엣지에서 지능적이고 에이전틱한 AI 추론을 수행하도록 설계된 플랫폼이다.

(사진=아카마이)

아카마이의 전 세계 분산 아키텍처 전문성을 바탕으로 엔비디아 블랙웰 AI 인프라를 결합해 저지연·고확장·실시간 AI 처리를 지원한다. 이를 통해 아카마이는 AI 추론을 글로벌 규모로 구현할 수 있는 분산형 AI 클라우드 생태계를 활성화한다는 목표다.

아카마이에 따르면 개인화된 디지털 경험과 스마트 에이전트, 실시간 의사결정 시스템 등 차세대 AI 애플리케이션은 사용자 근접성이 핵심이다. 인퍼런스 클라우드는 이러한 요구에 맞춰 AI 연산을 데이터 생성 지점에 가깝게 배치하는 구조로 설계됐다.

엔비디아 RTX 프로 6000 블랙웰 서버 에디션 GPU, 블루필드-3 DPU, 엔비디아 AI 엔터프라이즈 소프트웨어를 기반으로 전 세계 4천200개 이상의 엣지 네트워크와 연동된다.

아카마이는 엔비디아와의 협력을 통해 AI 팩토리를 엣지로 확장해 스마트 커머스, 실시간 금융 의사결정, 자율주행·산업용 로봇 등 피지컬 AI 영역까지 지원할 계획이다.

엣지에서의 실시간 추론과 데이터 분산 처리를 통해 지연을 최소화하고 보다 빠르고 안전한 AI 의사결정을 가능하게 한다는 목표다.

아카마이는 현재 전 세계 20개 지역을 대상으로 인퍼런스 클라우드 서비스를 시작했으며 향후 서비스 지역을 확대할 계획이다.

톰 레이튼 아카마이 최고경영자(CEO)는 "AI 추론 성능 확장에 대한 요구가 커지는 가운데, 엔비디아 AI 인프라를 기반으로 하는 아카마이 인퍼런스 클라우드는 AI 의사결정 기능을 전 세계 수천 지점에 배치해 더 빠르고 스마트하며 안전한 의사결정을 가능하게 할 것"이라고 말했다.