"생성 AI 잠재력을 끌어내기 위한 AWS의 지원 전략"

루크 앤더슨 AWS 아시아태평양및일본 AI·ML 매니징 디렉터

“아마존웹서비스(AWS)는 생성 AI의 잠재력을 해제하기 위한 전략으로 네가지 핵심 요소에 집중한다. 전세계에서 가장 쉽게 모델을 구축하는 방법을 제공하고, 생성 AI의 훈련과 추론 인프라를 위한 최고의 성능을 제공하려 한다. 또, 기업이 생성 AI 기반 애플리케이션을 구축할 수 있는 내부 역량 확보를 지원하고, 다양한 파운데이션 모델을 조합해 원하는 결과를 도출하도록 유연성을 제공하고자 한다.”

루크 앤더슨 AWS 아시아태평양 및 일본 AI및ML 매니징 디렉터는 8일 서울 역삼동 AWS코리아 사옥에서 열린 미디어브리핑에서 자사의 생성 AI 지원 전략을 이같이 요약했다.

루크 앤더슨 디렉터는 “오픈AI 챗GPT 이후 생성 AI는 빠르게 진화하고 있고, 더 많은 잠재력을 가져 더 많은 실익을 가져다줄 것으로 인식되고 있다”며 “여러 기업과 조직이 신속하고 역동적으로 생성 AI 도입을 추진하고 있고, 생성 AI는 모든 산업과 기업에게 실질적 이익을 주고 있다”고 말했다.

루크 앤더슨 AWS 아시아태평양및일본 AIML 매니징 디렉터

그는 “AWS의 미션은 AI와 머신러닝의 대중화이며, 전세계 많은 기업에게 AI 구축 역량을 제공해왔다”며 “LG AI 리서치는 아마존 세이지메이커로 엑사원 기반의 AI 아티스트 ‘필다’ 모델의 훈련 속도를 59% 끌어올렸으며, BBVA는 아마존 세이지메이커와 베드락을 활용해 AI 팩토리를 구축하고 천명의 데이터과학자를 교육시켜 AI 중심 조직으로 재탄생하고 있다”고 덧붙였다.

그는 먼저 가장 쉬운 생성 AI 구축 방법에 대해 ‘아마존 베드락’을 소개했다. 아마존 베드락은 지난 4월 공개된 완전관리형 생성 AI 플랫폼이다. 현재 제한된 고객과 테스터에게 제공되고 있다. 아마존 베드락은 AWS 자체 대규모언어모델(LLM)인 ‘아마존 타이탄’을 비롯해 스태빌리티AI의 ‘스테이블디퓨전XL 1.0’, AI21랩스의 주라식-2, 코히어의 '커맨드 및 임베드', 앤트로픽의 클로드2 등 파운데이션 모델을 바로 사용할 수 있게 한다.

이용자는 자사의 여러 서비스와 애플리케이션에 생성 AI 기능을 통합하는데 아마존 베드락을 사용할 수 있다. 아마존 베드락은 인프라 관리나 파운데이션모델 구축 및 미세조정 없이 API 호출로 파운데이션 모델에 접근할 수 있다. 스테이블디퓨전XL 1.0의 자연어 프롬프트 기반 이미지 생성이나 클로드2의 대규모 문서 생성 역량 등을 바로 활용할 수 있다 .아마존 베드락을 이용하는 생성 AI 기반 애플리케이션의 데이터는 암호화된다.

AWS는 최근 ‘아마존 베드락용 에이전트’란 기능을 미리보기로 출시했다. 파운데이션모델과 이용자 애플리케이션 사이의 구체적 작업을 조율하는 ‘생성 AI 오케스트레이션 레이어’다. 생성 AI의 실질적 구동에 필요한 여러 작업을 구성하게 해준다.

루크 앤더슨 디렉터는 “파운데이션 모델 혼자 영화 티켓 예매나 항공권 구매 같은 작업을 실행할 수 없다”며 “여러 파운데이션 모델을 서로 조율하거나 써드파티 API를 활용하는 등 다양한 작업이 요구되는데, 아마존 베드락용 에이전트는 몇번의 클릭으로 생성 AI 앱에서 수행해야 하는 작업을 완료하게 한다”고 설명했다.

그는 “태스크 세분화 및 조율, 회사 데이터의 안전한 접근과 검색, API 호출 및 실행 등을 에이전트가 수행하며, 이런 오케스트레이션 레이어를 통해 하나의 인터페이스에서 서버리스로 생성 AI를 실행하게 해준다”며 “또한 에이전트는 파운데이션 모델의 역량을 증강시켜 실시간으로 외부 데이터를 가져와 좀 더 최신성 있는 정보를 연결해 답변하도록 만들어준다”고 덧붙였다.

생성 AI 모델이 사용자 의도에 맞는 정확한 답변을 제공하게 만드려면, 데이터에 연관성을 부여하는 ‘벡터화’ 작업이 필수다. 텍스트, 이미지 등 여러 콘텐츠를 수치화해 벡터로 만들고 근접한 것끼리 연결함으로써 콘텐츠 간 유사성과 연관성을 분석하게 하는 것이다.

AWS는 이 벡터화 작업을 간소화할 수 있는 ‘AWS 오픈서치용 벡터엔진 서버리스’를 미리보기로 제공하고 있다. 벡터 데이터와 데이터베이스를 서버리스 환경에서 생성 AI와 연결하고 벡터화할 수 있다.

아마존 베드락에서 접근가능한 파운데이션모델

루크 앤더슨 디렉터는 두번째 전략인 생성 AI 학습 및 추론 인프라에 대해 다양한 인스턴스 옵션을 제공한다는 점을 강조했다.

아마존 EC2는 엔비디아 H100 텐서코어 GPU 기반의 ‘P5 인스턴스’, 엔비디아 A100 텐서코어 GPU 기반의 ‘P4d/P4de 인스턴스’, 엔비디아 A10G 텐서코어 GPU 기반의 ‘G5 인스턴스’를 제공한다.

AWS에서 자체 개발한 AI 전용 프로세서를 활용해 AI 학습용 인스턴스인 ‘AWS 트레이니엄’, AI 추론용 인스턴스인 ‘AWS 인퍼런시아2’를 제공하고 있다. 전용 칩을 이용하면 훈련에서 동급의 EC2 인스턴스대비 최대 50%의 훈련 비용을 절감하고, 추론에서 40%의 비용 절감 효과를 누릴 수 있다.

그는 세번째로 기업의 생성 AI 역량 강화를 위한 여러 지원 프로그램을 소개했다. 일단 생성 AI 기반으로 코드 작성을 지원하는 AI 코딩도구 ‘아마존 코드위스퍼러’를 강조했다. 아마존 코드위스퍼러는 실시간 코드 제안, 찾기 어려운 취약점 코드 스캔, 오픈소스 훈련 데이터와 유사한 코드 플래그 지정 또는 기본 필터링 등을 제공한다.

다음으로 특정 산업계의 생성 AI 활용을 돕는 솔루션으로 최근 출시된 ‘AWS 헬스스크라이브’를 소개했다. AWS 헬스크스크라이브는 의료 분야를 위한 솔루션으로 임상 애플리케이션을 위한 HIPAA 적격 자동 메모를 생성해준다. 임상 환경의 생산성을 높이고 책임감있게 AI를 활용할수 있도록 지원한다.

네번째 전략 포인트로 생성 AI 구축에 선택의 폭을 넓혀주는 사례로 ‘아마존 세이지메이커 점프스타트’를 강조했다. 아마존 세이지메이커는 완전관리형 머신러닝 구축 플랫폼이다. 아마존 세이지메이커 점프스타트를 이용하면 고객 자체 머신러닝 모델을 구축할 때 수천개의 다양한 파운데이션 모델을 통합하게 해준다. AI21랩스의 주라식-2 울트라 및 미드, 메타AI의 라마2, 코히어의 커맨드XL, 허깅페이스 팔콘, 스태빌리티AI의 스테이블디퓨전XL 1.0, 라이트온 Lyra-Fr. 데이터브릭스의 돌리, 아마존 알렉사TM 등의 모델을 이용할 수 있다.,

로크 앤더슨 디렉터는 “세이지메이커 점프스타트를 통해 써드파티의 파운데이션 모델과 오픈소스 모델을 허깅페이스처럼 조합해 유연하게 활용하고, 원하는 결과물을 만들 수 있다”고 강조했다.

AWS는 한국 기업의 생성 AI 활용을 지원하기 위한 정책을 운영하고 있다. 생성 AI 관련 스타트업 지원 프로그램이 새롭게 한국에 출시됐다.

AWS코리아는 8일 벤처캐피탈(VC)인 새한창업투자와 KB인베스트먼트와 함께 스타트업을 지원하는 6주 과정 액셀러레이터 프로그램 ‘AWS 생성형 AI 액셀러레이터’를 발표했다. 이는 생성형 AI 스타트업을 지원하기 위한 프로그램으로, 강력한 AI 모델 및 도구, 업계 전문가들의 비즈니스 및 기술 멘토링, 선별된 자원, AWS 액티베이트 프로그램 참여 기회 및 최대 20만 달러 상당의 AWS 크레딧을 제공한다. 확장 가능한 AI를 개발, 배포 및 관리할 수 있는 통합 컴퓨팅 플랫폼 애니스케일과 기업의 머신러닝(ML) 분석을 지원하는 AI 솔루션 제공업체 트리에라(TriEra) 등을 포함한 업계를 선도하는 AI 및 ML 스타트업 창업자들로 구성된 커뮤니티와의 네트워킹 기회를 부여한다. 아마존 세이지메이커 점프스타트, AWS 마켓플레이스 접근 기회를 제공한다.

AWS 생성형 AI 액셀러레이터 프로그램은 이달 25일까지 참여기업의 신청을 받으며, 9월 선정결과를 발표한다.

루크 앤더슨 디렉터는 “한국의 비즈니스 리더가 생성 AI 활용에 나서고자 한다면, 데이터 기반을 제대로 확보하고, 사람에 투자해야 한다”며 “최근 생성 AI 관련한 7개의 무료 및 저가 학습 코스를 공개했고, AWS 스킬빌더에서 600개 이상의 무료 코스를 제공하고 있으므로 누구든 AWS 기반으로 AI 기술 역량을 확보할 수 있다”고 말했다.

그는 “생성 AI의 여정은 데이터와 인재에 투자하면서, 다양한 유즈케이스를 들여다보고 실제 활용가능한 것을 찾아 우선 실험한 뒤 개념검증에서 가치를 입증한 뒤 전사로 빠르게 확장하는 것을 추천한다”며 “조직 내부의 문제를 우선 파악해 우선순위를 잡고, 작게 시작해 빠르게 효과를 발휘해 조직 전체로 신속하게 확산하는 방법이 좋다”고 조언했다.