데이터·운영 막히면 AI도 멈춘다…AWS가 제시한 해법은

하네스 엔지니어링·에이전트옵스 제시…AI 신뢰·비용 해결할 통합 전략 강조

아마존웹서비스(AWS)가 기업 인공지능 전환(AX) 성공을 위한 '에이전트옵스'와 'AI 레디 데이터'를 핵심 전략으로, 데이터·보안·운영·확장성 문제를 동시에 해결하는 통합 접근 방안을 제시했다.

최영준 AWS 데이터·AI SA 리더는 31일 서울 양재 엘타워에서 열린 '베스핀 AI 파트너스 데이 2026'에서 "AX의 핵심은 기술 자체가 아니라 신뢰할 수 있는 데이터와 이를 안정적으로 운영할 수 있는 체계에 있다"고 말했다.

최 리더는 먼저 기업 IT 부서가 마주한 'AI의 역설'로 데이터 신뢰, 보안 위협, 운영 비용, 확장성 문제를 꼽았다. 생성형 AI 도입이 확산되면서 생산성은 높아졌지만 동시에 데이터 품질 저하와 비용 증가, 보안 리스크 등 새로운 과제가 발생하고 있다는 분석이다.

최영준 AWS 데이터·AI SA 리더 (사진=지디넷코리아)

이러한 문제를 해결하기 위한 첫 번째 전략으로 AI 레디 데이터를 제시했다. 단순히 데이터를 수집하는 수준을 넘어 데이터 정제와 온톨로지 설계, 모든 비즈니스 데이터를 신뢰할 수 있는 단일 출처에서 제어하는 'SSOT' 기반 구조, 거버넌스 체계까지 포함한 데이터 준비가 필요하다는 설명이다.

특히 기존 검색증강생성(RAG) 구조의 한계도 짚었다. 벡터 검색 기반 방식은 데이터 단편화 문제를 완전히 해결하지 못하며 복잡한 관계나 맥락을 이해하는 데 제약이 있다는 것이다. 이에 AWS는 지식 그래프 기반 관계 구조와 추론 검증 체계를 결합한 '시맨틱 레이어' 개념을 제안했다.

시맨틱 레이어는 AI가 컨텍스트를 이해하고 연산을 최적화하는 구조로, 데이터 출처 추적과 정책 적용, 신뢰성 확보까지 지원하는 것이 특징이다. AI 환각 문제를 줄이고 보다 정확한 의사결정을 지원한다.

보안과 신뢰성 확보를 위한 접근으로는 '하네스 엔지니어링'을 소개했다. 이는 AI 에이전트가 예측 불가능한 동작을 하지 않도록 제약 조건과 피드백 루프를 설계하는 방식이다. 최 리더는 "AI 에이전트는 통제 없이 활용할 경우 리스크가 크기 때문에 하네스 엔지니어링을 바탕으로 신뢰할 수 있는 환경에서 동작하도록 설계하는 것이 중요하다"고 설명했다.

운영 측면에선 에이전트옵스를 핵심 개념으로 제시했다. 이는 다수의 AI 에이전트를 통합 관리하고 행동 이력과 비용, 성능을 지속적으로 모니터링하는 운영 체계다. 이를 통해 기업은 AI 도입 이후 운영 효율성과 비용 예측 가능성을 동시에 확보할 수 있다는 설명이다.

AWS는 이같은 전략을 구현하기 위한 서비스 포트폴리오도 함께 제시했다. '아마존 베드록'을 중심으로 다양한 생성형 AI 모델을 제공하며 '에이전트코어'를 통해 에이전트 실행과 보안, 정책 관리, 확장성을 통합 지원하고 있다.

또 S3·RDS·다이나모DB 등 데이터 저장 서비스와 오픈서치·글루 등을 활용해 데이터 카탈로그와 시맨틱 검색 환경 구축도 돕는다. 기업이 AWS 클라우드를 기반으로 데이터 연동을 강화하고 AI 애플리케이션을 빠르게 개발하고 운영할 수 있도록 한다.

실제 적용 사례로는 배달의민족 앱 운영사 우아한형제들의 내부 AI 플랫폼 '물어보새'가 소개됐다. 회사는 AWS와 함께 데이터 검색과 업무 자동화를 위한 에이전트 시스템을 구축해 수천 개의 데이터 테이블 중 필요한 정보를 자동으로 탐색하는 환경을 조성해 업무 생산성을 높였다.

이 과정에서 AWS는 데이터 수집·검색, 컨텍스트 엔지니어링, 에이전트옵스, 피드백 기반 품질 개선 등 전반적인 기술을 지원했다. 특히 멀티 에이전트 협업과 지능형 자동화를 통해 조직 내 지식 공유와 업무 효율성을 동시에 높였다는 설명이다.

끝으로 최 리더는 AI 도입 전략에서 작게 시작해 빠르게 확장하는 방식을 강조했다. 초기 완성도를 높이기보다 반복 실험과 개선을 통해 점진적으로 확장하는 접근이 필요하다는 것이다.

그는 "AI는 완벽한 상태로 시작하는 것이 아니라 작은 실험을 통해 점진적으로 발전시키는 것이 중요하다"며 "우리는 데이터·보안·운영까지 포함한 전반적인 AX를 지원할 것"이라고 밝혔다.