[기고] 에이전틱 AI 시대, 하이브리드 클라우드 전략 다시 짜야

알리바바클라우드 필릭스 리우 인텔리전스 압사라 스택 총괄

브로드컴의 VM웨어 인수로 인해 하이브리드 클라우드 전략 전반에 격변이 일어났다. 기업 IT 팀들이 라이선스 조건의 변화를 목격하면서 인프라에 대한 오랫동안 지속된 가정들에 대한 의문이 제기되기 시작했고, 인공지능(AI)이 IT 전략을 재정의하는 역할에 대한 추측이 이를 더욱 부채질했다.

이런 새로운 사고의 배경에는 에이전틱 AI가 있다. 에이전틱 AI는 최소한 감독 하에 스스로 의사결정을 내리고 자율적으로 행동하며, 사용자·다른 시스템과 상호작용할 수 있는 시스템이다. '낡은 것은 버리고 새로운 것을 받아들이자'는 흐름은 빠르게 클라우드 아키텍처를 재고해야 한다는 것으로 이어졌고, 이는 에이전틱 AI에 대한 투자가 가속화된 것으로 나타나고 있다.

하이브리드 클라우드는 오랫동안 임시방편으로 여겨져 온 경향이 있다. 일부 조직들이 퍼블릭 클라우드가 맞지 않을 때 기본적으로 선택하는 옵션이었던 것이다. 하지만 오늘날 하이브리드 클라우드는 대규모 혁신을 위한 최적의 모델로 부상하고 있으며, 특히 데이터 프라이버시, 컴플라이언스, 성능이 중요한 분야에서 더욱 그렇다.

필릭스 리우 알리바바클라우드 인텔리전스 압사라 스택 총괄. (사진=알리바바클라우드)

퍼블릭 클라우드는 방대한 확장성과 편의성을 제공해 대규모 AI 모델 훈련과 생성형 AI 애플리케이션 구현에 이상적이다. 하지만 에이전틱 AI 시스템은 지역화된 추론, 빠른 피드백 루프, 상황 인식 능력을 요구한다. 의료 워크플로, 금융 리스크 엔진, 통신 아키텍처에 내장되든 상관없이 하이브리드 시스템은 지연시간, 에너지 오버헤드, 규제 리스크를 더 효과적으로 관리할 수 있다.

유연성과 범위를 고려할 때, 에이전틱 AI에 대한 활발한 수요가 있다는 것은 그리 놀라운 일이 아니다. 최근 전망에 따르면 에이전틱 AI는 2030년까지 의료 분야에서만 연간 35-40% 성장할 것으로 예상되며, 금융 부문에서는 향후 10년간 전 세계적으로 40배 이상의 에이전틱 AI 도입 증가가 예상된다. 이는 소프트웨어 진화뿐만 아니라 인프라 진화도 요구한다.

AI 에이전트는 클라우드에서 훈련하고, 엣지에서 작동하며, 레거시 시스템과 통합하고 지속적으로 학습하는 등 다양한 환경에서 작동해야 한다. 이는 인프라도 마찬가지로 분산되고 유연하며 탄력적이어야 함을 의미한다. 이것이 바로 하이브리드 클라우드가 필요한 지점이다.

이런 맥락에서 많은 CIO들이 직면한 과제는 혁신과 운영·규제 요구사항 균형을 맞추는 것이다. 사실 에이전틱 AI는 비즈니스 이익을 가져다주지만 실제로는 이를 더 쉽게 만들어주지는 않는다. 복잡하고 대부분 조직의 IT 환경의 특성을 고려할 때 잠재적 위험으로 가득 차 있다. 인프라는 많은 기반을 커버해야 하며, 이것이 하이브리드 클라우드가 작동하는 지점이다.

여러 환경에서 하이브리드 클라우드는 민감하지 않은 컴퓨팅 집약적 워크로드(모델 훈련 등)를 퍼블릭 클라우드에서 처리하는 동시에, 추론과 민감한 데이터 처리는 사용자 가까이 또는 주권 경계 내에서 유지할 수 있는 방법을 성공적으로 입증했다. 그 결과 조직들은 프라이버시나 제어를 타협하지 않으면서도 더 빠르게 혁신할 수 있다.

자율성과 확장성을 하나로

적절하게 설계, 구성, 관리된 하이브리드 클라우드 아키텍처는 유연성 이상을 제공한다. 그래야 결코 잠들지 않는 AI 시스템을 위한 운영 백본을 제공할 수 있다. 에이전틱 AI는 클라우드와 엣지에서 실시간으로 원활하게 작동해야 하며, 종종 지연시간, 컴플라이언스, 제어에 대한 엄격한 요구사항을 갖고 있다. 하이브리드 모델은 훈련 워크로드를 중앙화된 인프라로 이동시키는 동시에 추론이 결정이 내려지는 곳 가까이에서 실행될 수 있게 한다. 병원 병동이든, 금융 거래 데스크든, 물류 허브든 상관없이 말이다.

일부 제공업체들은 시장 수요에 빠르게 대응하여 유연한 하이브리드 아키텍처를 통해 이러한 요구를 해결하고 있다. 예를 들어 알리바바 클라우드의 압사라 스택(Apsara Stack)은 퍼블릭 클라우드 역량을 프라이빗 환경으로 가져와 코어, 엣지, 온프레미스 위치에서 훈련 및 추론 워크로드의 일관된 배포를 가능하게 한다.

이런 솔루션들은 더 스마트한 에너지 사용과 더 나은 비즈니스 연속성의 문을 연다. 처리를 지역화하고 불필요한 데이터 이동을 줄임으로써 하이브리드 배포는 조직들이 점점 더 엄격해지는 환경·사회·지배구조(ESG) 목표를 달성하고 AI 에너지 수요를 관리하는 데 도움을 줄 수 있다. 동시에 디지털 서비스가 더 자율적이고 상시 가동되면서 핵심 요구사항인 더 탄력적인 재해복구와 인프라 장애 조치를 제공한다.

결국 하이브리드 클라우드는 그 자체로 강력한 솔루션임을 입증한다. 에이전틱 AI가 필요로 하는 확장성, 복잡성, 맥락 인식 능력을 모두 지원할 수 있기 때문이다. 무엇보다 비용, 컴플라이언스, 성능 측면에서 새로운 리스크를 발생시키지 않으면서도 이 모든 것을 실현할 수 있다는 점이 하이브리드 클라우드의 핵심 강점이다.

에이전틱 AI가 시스템 작동 방식을 재정의할 뿐만 아니라 인프라 설계 방식도 재정의하고 있다는 것은 분명하다. 분산 하이브리드 인프라는 조직들이 혁신, 규제, 탄력성을 종종 동시에 관리하는 방식의 중심이 되고 있다. 가상화 분야의 최근 격변은 이러한 초점을 더욱 부각시켰을 뿐이다. 현재 우리가 목격하고 있는 현상은 조직들이 기존 시스템 의존성에서 벗어나면서, 하이브리드 클라우드가 어쩔 수 없는 절충안이 아니라 전략적 선택으로 자리 잡고 있다는 것이다. 하이브리드 클라우드는 이 시대가 요구하는 아키텍처인 동시에 IT 리더와 팀원들이 간절히 필요로 하던 해답이기도 하다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.