브로드컴, 프라이빗 AI 공략 강화…AWS·델과 경쟁

인프라·모델·보안·에이전트 거버넌스 통합…150여개 AI 모델 지원

브로드컴이 기존 프라이빗 클라우드 사업을 인공지능(AI) 영역으로 확장한다. 기업 내부에서 AI를 직접 구축·운영할 수 있도록 인프라와 모델, 보안, 에이전트 거버넌스를 하나의 플랫폼으로 묶어 프라이빗 AI 시장 공략을 강화한다.

브로드컴은 미국서 열린 'VM웨어 익스플로어 2026'에서 새로운 AI 솔루션 'VM웨어 프라이빗 AI 클라우드'를 공개했다고 1일 밝혔다. 기업 데이터를 외부 AI 환경으로 옮기는 대신 데이터가 있는 곳에 AI 모델을 배치해 추론 워크로드와 에이전틱 애플리케이션을 운영하는 것이 핵심이다.

사용 기업은 VM웨어 프라이빗 AI 클라우드에서 AI와 기존 엔터프라이즈 워크로드를 하나의 프라이빗 클라우드 플랫폼으로 구축하고 운영할 수 있다. 특정 인프라에 종속되지 않고 여러 그래픽처리장치(GPU)와 중앙처리장치(CPU), 가속기, 서버 하드웨어(HW)와 AI 모델을 선택해 사용할 수 있다. 

브로드컴이 기존 프라이빗 클라우드 사업을 인공지능(AI) 영역으로 확장한다. (사진=클립아트코리아)

브로드컴은 기존 VM웨어 클라우드 인프라를 AI 운영 플랫폼으로 확장하는 전략을 택했다. 'VM웨어 클라우드 파운데이션(VCF) 9'에 NVMe 메모리 계층화와 스토리지 중복 제거를 적용했으며, 토큰 사용량과 GPU·가상GPU 자원 사용 현황을 추적할 수 있게 지원해 AI 운영 비용을 관리한다.

회사는 AI 인프라 구축과 운영을 자동화하는 'VM웨어 AI 팩토리'도 내놨다. VM웨어 AI 팩토리는 기업 인프라 구축부터 최초 AI 모델 배포까지 걸리는 시간을 줄이고 이후에도 자원과 토큰 사용량을 관리할 수 있도록 지원한다.

이번 행사에 온프레미스에서 선택할 수 있는 AI 모델도 확대됐다. VCF 기업 고객은 네모트론 3와 젬마 4, 코토미, 큐원 3.7 맥스, GLM 5.2를 포함한 150개 이상 오픈소스·상용 모델을 자체 환경에서 운영할 수 있다.

브로드컴은 에이전틱 AI 확산에 대비해 보안과 거버넌스 기능도 강화했다고 밝혔다. 'vD디펜드'를 통해 AI 워크로드 트래픽 흐름을 지속 분석하고 승인되지 않은 '섀도우 AI'를 탐지하도록 돕기 위한 전략이다. AI가 생성한 침입 탐지·방지 시그니처를 활용한 가상 패칭도 제공한다.

자율형 AI 에이전트를 중앙에서 통제하기 위한 '에이전트마인더'도 출시됐다. 이는 개별 AI 에이전트에 디지털 신원을 부여한 뒤 수행할 업무와 사용할 수 있는 도구, 접근 가능한 자원을 연결해 권한을 제한하고 모든 활동에 대한 감사 기록을 남기는 기능을 갖췄다. 

'탄주 플랫폼 에이전트 파운데이션'에는 기본 차단 방식의 실행 환경이 적용된다. 명시적으로 권한을 받지 않은 AI 에이전트는 애플리케이션 프로그래밍 인터페이스(API)와 네트워크, 모델 콘텍스트 프로토콜(MCP) 서버, 인터넷에 접근할 수 없도록 해 프롬프트 인젝션이나 자격 증명 탈취에 따른 피해 가능성을 낮춘다.

하이브리드로 이동하는 AI 인프라 수요…국내외 상황은

브로드컴이 프라이빗 AI 시장을 겨냥한 것은 최근 기업 AI 인프라 수요가 퍼블릭 클라우드 중심에서 하이브리드·프라이빗 환경으로 넓어지고 있어서다. 기업들이 생성형 AI를 실제 업무에 적용하면서 데이터 보안과 규제 준수뿐 아니라 장기간 발생하는 GPU·토큰 비용까지 고려하기 시작한 영향이 작용했다.

글로벌 CSP들도 퍼블릭 클라우드 서비스 제공에 머물지 않고 고객 데이터센터까지 사업 영역을 늘리고 있다. (제공=이미지투데이)

앞서 글로벌 CSP들도 퍼블릭 클라우드 서비스 제공에 머물지 않고 고객 데이터센터까지 사업 영역을 확장하고 있다. 퍼블릭 클라우드에서 확보한 자동화와 관리 기술을 기업 내부 인프라에 적용해 온프레미스와 클라우드를 함께 운영하도록 지원하는 식이다. 

관련 대표 사례는 아마존웹서비스(AWS)다. AWS는 '아웃포스트'를 통해 고객 데이터센터에 전용 HW를 설치하고 자사 클라우드와 유사한 서비스·운영 환경을 제공하고 있다. 마이크로소프트는 '애저 아크'와 '애저 스택'을 앞세워 기업 데이터센터와 클라우드 인프라를 통합 관리하고 있다. 구글은 외부 인터넷과 분리된 환경서도 AI를 구동할 수 있는 '구글 분산형 클라우드(GDC)'를 공공·국방·금융 시장에 확대하고 있다.

네이버클라우드와 NHN클라우드, KT, 삼성SDS 등 국내 기업도 구축형 프라이빗·하이브리드 클라우드 사업을 강화하고 있다. 네이버클라우드는 '뉴로클라우드', NHN클라우드는 오픈스택 기반 프라이빗 클라우드, KT는 구독형 '매니지드 프라이빗 클라우드', 삼성SDS는 '삼성클라우드플랫폼(SCP)'과 데이터센터 구축·운영 역량을 각각 앞세워 시장 공략에 나섰다. 

특히 네이버클라우드는 한국은행 데이터센터 내부에 뉴로클라우드와 프라이빗 AI 환경을 구축했다. 폐쇄된 내부망에서 생성형 AI를 학습하고 운영해 데이터를 외부로 반출하지 않으면서 금융 분야에 필요한 보안 요건과 데이터 주권을 확보하는 구조다.

NHN클라우드도 GPU 인프라부터 운영 플랫폼과 AI 서비스까지 결합한 '팩토리X'를 공개하고 퍼블릭·프라이빗 환경을 모두 지원하는 전략을 추진하고 있다. AI 경쟁 중심이 모델 성능뿐 아니라 실제 업무 환경에서 AI를 안정적으로 운영하고 총소유비용(TCO)을 낮추는 방향으로 이동하고 있다는 판단이다.

전통적인 서버·스토리지 기업 역시 프라이빗 AI 시장으로 사업 범위를 넓히고 있다. 과거 기업이 GPU 서버와 스토리지, 네트워크, 소프트웨어를 개별적으로 구매해 통합했다면 최근에는 구축과 자동화, 보안, 운영까지 하나의 플랫폼으로 제공하는 방향으로 경쟁 구도가 바뀌고 있다.

델 테크놀로지스는 서버와 스토리지, 네트워크, 보안, 소프트웨어를 결합한 '델 AI 팩토리'를 통해 이 시장을 공략하고 있다. AI 워크로드를 외부 클라우드로 보내기보다 데이터가 있는 데이터센터와 엣지 환경 가까이에서 운영할 수 있도록 지원하는 방식이다.

람 벨라가 브로드컴 인프라 소프트웨어 그룹 사장은 "프라이빗 AI 클라우드는 엔터프라이즈 프라이빗 클라우드와 프라이빗 AI 인프라가 더 이상 별개가 아닌 하나로 운영하는 변곡점"이라며 "기업은 데이터 주권과 컴플라이언스 태세, 사업상 요구되는 비용 예측성을 확보하면서 프로덕션 추론 워크로드와 에이전틱 AI를 운영할 수 있다"고 말했다.