AWS 생성 AI 플랫폼 '세이지메이커'와 '베드락' 차이는

파운데이션모델 활용과 통제 범위 따라 선택해야

아마존웹서비스(AWS)는 생성AI를 기반으로 애플리케이션이나 서비스를 구축하려는 기업에게 매니지드형 생성 AI 플랫폼을 제공하고 있다. 올해 선보인 '아마존 베드락'과 기존의 '아마존 세이지메이커 점프스타트' 등 2종이다.

아마존 베드락과 아마존 세이지메이커 모두 인프라 설정과 관리를 AWS에게 맡기고 실제 애플리케이션 구축에 집중하게 하는 매니지드 서비스다. 하지만 두 서비스는 사용 시나리오와 목적에 따라 차이가 있기 때문에 구분할 필요가 있다. 

루크 앤더슨 AWS 아시아태평양및일본 AIML 매니징 디렉터는 "아마존 베드락은 서버리스로 파운데이션모델에 접근하는 서비스로, 고객이 API 호출이나 베드락용 에이전트로 다수 파운데이션 모델을 활용하는 생성 AI 작업을 처리하게 한다"며 "API 기반 서버리스 플랫폼이라 보면 된다"고 설명했다.

아마존 베드락(사진=아마존 블로그)

또 "세이지메이커는 AWS 매니지드 머신러닝 플랫폼으로, 고객이 다양한 역량과 기능을 활용해 머신러닝 모델을 개발, 훈련, 배포할 수 있다”며 “모델 개발 후 거버넌스 실행, 모델 드리프트 분석, 보안 점검 등이 가능하며, 세이지메이커 점프스타트는 익숙한 플랫폼 상에서 엔지니어가 다수의 써드파티 파운데이션 모델을 활용해 그들 자체 모델을 증강시킬 수 있게 하는 것”이라고 밝혔다 .

아마존 세이지메이커는 2017년 출시된 머신러닝 플랫폼 서비스다. 다양한 머신러닝 개발 도구를 제공해 이용자의 자체 모델을 개발하고, 배포, 운영하게 한다. 사용자는 세이지메이커로 구축한 모델에 대한 인프라 설정과 프로비저닝을 하지 않아도 된다.

아마존 세이지메이커 점프스타트는 이용자 자체 머신러닝 모델을 구축할 때 수천개의 다양한 파운데이션 모델을 통합하게 해준다. AI21랩스의 주라식-2 울트라 및 미드, 메타AI의 라마2, 코히어의 커맨드XL, 허깅페이스 팔콘, 스태빌리티AI의 스테이블디퓨전XL 1.0, 라이트온 Lyra-Fr. 데이터브릭스의 돌리, 아마존 알렉사TM 등의 모델을 이용할 수 있다.,

아마존 베드락은 지난 4월 공개된 완전관리형 생성 AI 플랫폼이다. 현재 제한된 고객과 테스터에게 제공되고 있다. 아마존 베드락은 AWS 자체 대규모언어모델(LLM)인 ‘아마존 타이탄’을 비롯해 스테이블디퓨전XL 1.0, 주라식-2, 코히어 커맨드 및 임베드, 클로드2 등 파운데이션 모델을 바로 사용할 수 있게 한다.

이용자는 자사의 여러 서비스와 애플리케이션에 생성 AI 기능을 통합하는데 아마존 베드락을 사용할 수 있다. 아마존 베드락은 인프라 관리나 파운데이션모델 구축 및 미세조정 없이 API 호출로 파운데이션 모델에 접근할 수 있다. 스테이블디퓨전XL 1.0의 자연어 프롬프트 기반 이미지 생성이나 클로드2의 대규모 문서 생성 역량 등을 기존 앱에 바로 통합해 활용할 수 있다. 아마존 베드락을 이용하는 생성 AI 기반 애플리케이션의 데이터는 암호화된다.

아마존웹서비스 세이지메이커는 인공지능 및 머신러닝 워크로드 구축 과정을 간소화해 비즈니스 아이디어 구현 시기를 앞당긴다.

아마존 베드락과 아마존 세이지메이커 점프스타트의 가장 큰 차이점은 파운데이션모델을 어떻게 활용하는가다.

세이지메이커의 경우 파운데이션모델을 통합할 뿐 아니라 직접 미세조정해 맞춤화할 수 있다. 자체 개발하는 머신러닝 모델과 파운데이션모델을 학습시키는 데이터 수집과 전처리, 저장, 모니터링 등의 흐름을 짤 수 있다.

반면, 베드락의 경우 사용자가 파운데이션 모델의 역량을 호출해 바로 사용하는데 초점을 맞춘다. 때문에 파운데이션모델은 API 접근만 가능하고 미세조정을 할 수 없다. 파운데이션모델의 서브셋만 미세조정할 수 있다. 직접 생성 AI 모델을 구축하지 않고, 즉시 앱이나 서비스에 붙여서 활용하게 하는 것이다.

챗GPT 같은 대화형 챗봇을 컨택센터 애플리케이션에 단기간 내에 붙이고 싶은 경우 아마존 베드락에서 '타이탄'을 붙이면 된다. 이미지 생성 AI를 기존 앱에 붙이고 싶다면, 스테이블디퓨전XL 1.0을 붙이면 된다.

세이지메이커 점프스타트가 생성 AI 구축에 더 많은 유연성과 사용자 주도권을 제공하고, 베드락은 약간의 제한된 옵션을 통해 고투마켓 전략에 적합한 서비스를 제공한다.

생성 AI 환경의 운영 부담에서도 차이를 보인다.

세이지메이커 점프스타트는 파운데이션모델과 자체 머신러닝 모델을 사용자 스스로 모두 관리해야 한다. 기반 인프라 운영은 AWS에 위임하지만 기타 환경은 사용자 책임이다. 운영 비용의 경우도 상시 인프라를 유지해야 하므로 실제 사용량 대비 더 많은 비용을 청구받을 수 있다.

그에 반해 베드락은 파운데이션모델을 유지, 관리하지 않아도 된다. 파운데이션모델은 AWS 소유이므로 업데이트, 유지보수, 관리 등을 신경쓰지 않아도 된다. 관련 인프라 설정도 신경쓸 필요 없다. 비용의 경우 파운데이션모델 API를 호출한 경우에만 비용을 지불하면 된다. 파운데이션모델의 추론 실행에만 과금하므로 실제 사용량에 비례해 비용을 청구받게 된다.

AWS는 조직 내 데이터 사이언티스트팀을 운영하며 모델 구축 역량을 보유한 경우 '아마존 세이지메이커'를 사용할 것을 추천한다. 만약 조직 내 인력이나 역량이 부족하다면 더 간편히 사용할 수 있는 '아마존 베드락'을 추천하고 있다.

또한, 세이지메이커 점프스타트의 경우 수천개 모델 중 사용자 시나리오에 맞는 것을 직접 선택해야 하므로 올바른 모델 검토에 상당 시간을 쏟아야 할 수 있다. 오픈소스와 독점 모델이 혼재돼 있어 검토가 까다롭다.

아마존 베드락은 현재 비공개 미리보기 상태다. 때문에 상세한 정보가 없다. 정식 출시 이후에야 더 자세한 가이드와 지침이 공개될 것으로 예상된다.

많은 기업이 지금 당장 생성 AI 기반 애플리케이션이나 서비스를 개발해야 하는 입장이기 때문에, 아마존 세이지메이커 점프스타트를 선택하는 경우가 더 많은 것으로 전해진다. 여러 규제를 받는 산업군 기업은 파운데이션모델의 AI 안전을 담보할 수 없으므로 아마존 세이지메이커 선택이 거의 필수적이다.

AWS와 비슷한 서비스를 경쟁사인 마이크로소프트 애저나 구글클라우드에서도 제공하고 있다.

마이크로소프트는 애저 오픈AI 서비스와 애저 AI 서비스 등에서 API 기반 파운데이션모델 활용을 지원한다. 오픈AI의 GPT 파운데이션모델을 API로 호출해 사용할 수 있고, 생성 AI 기반 이미지, 비디오, 음성, 텍스트 등의 역량을 코그니티브 서비스 등에서 바로 활용할 수 있다. 조만간 마이크로소프트365 코파일럿과 동일한 기술스택으로 자체 대화형 AI 서비스를 개발할 수 있는 '코파일럿 스택'이 정식 출시될 예정이다. AI 세이프티란 서비스가 출시되면 생성 AI의 환각이나 비윤리적 답변을 제어하는 것도 가능해진다.

구글클라우드는 버텍스AI를 통해 생성 AI를 활용하는 애플리케이션을 만들게 지원하고 있다. 버텍스AI는 구글의 LLM인 람다와 PaLM, PaLM2 등의 파운데이션모델을 이용할 수 있다. 아마존 세이지메이커 점프스타트와 비슷한 플랫폼으로, 파운데이션 모델의 미세조정을 허용한다. 단기간 내 생성 AI 역량을 활용해야 하는 경우 이미지, 언어, 음성, 비전 등 API를 활용할 수 있다.