"기업들이 본격적으로 생성형 인공지능(AI)의 보안과 정확도에 더 신경 쓰기 시작했다. 기업 고객은 아마존 베드록과 젠AI360 등으로 보안성·정확도 높은 환경에서 생성형 AI 모델과 제품 개발을 할 수 있을 것이다."
아마존웹서비스(AWS)코리아 최효근 시니어 솔루션아키텍트는 12일 인터컨티넨탈 호텔 서울에서 메가존클라우드와 공동 개최한 '비즈니스 리더를 위한 성공적인 생성형 AI 도입 로드맵'에서 베드록의 최신 기능을 소개했다. 메가존클라우드 김한수 AI&데이터분석센터 그룹장도 AI젠360 서비스를 선보였다. 두 기업 모두 생성형 AI 모델 개발시 보안과 정확도를 올릴 수 있는 기능을 설명했다.
최효근 아키텍트는 실제 기업이 생성형 AI를 도입해 내놓은 제품이 많지 않다고 했다. 생성형 AI의 가장 큰 걸림돌인 환각 현상과 보안 문제를 주요 이유로 꼽았다. 이에 AWS는 베드록에 환각 현상과 데이터 유출을 방지하기 위한 새로운 기능을 추가했다고 설명했다.
최 아키텍트는 베드록에 새로 업그레이드된 파인튜닝 시스템을 설명했다. 일반적으로 사용자가 특정 도메인이나 특정 지식을 추가하고 싶을 때 파인튜닝 기법을 활용한다. 그러나 파인튜닝을 한다고 해서 답변 정확도가 무조건 오르는 것은 아니다.
그는 "베드록은 정확도 향상을 위해 소수의 레이블 된 데이터를 이용한다"며 "질문과 가장 연관성 높은 데이터만 활용함으로써 답변 정확도를 높일 수 있다"고 했다. 최효근 아키텍트는 "도메인에 대한 모델 정확도 유지를 위해 많은 수의 레이블 없는 데이터까지 추가로 이용한다"고 덧붙였다. 현재 사용자는 파인튜닝을 진행할 때 코히어, 메타, 아마존의 거대언어모델(LLM)을 통해 진행했다. 올해 앤트로픽의 LLM도 추가될 방침이다.
최 아키텍트는 베드록이 검색 증강 생성(RAG)을 강화했다고 했다. 그는 "베드록은 완전 관리형 RAG를 지원하고 있다"며 "다른 플랫폼처럼 RAG 실행을 위한 추가적인 프로그래밍이 불필요하다"고 했다. 베드록 RAG의 가장 큰 특징은 RAG 내부 시스템이 단계별로 진행된다는 점이다.
예를 들어, 사용자가 AI 모델에 복잡한 요청을 했을 때, 베드록의 RAG 에이전트가 이를 여러개의 작은 작업으로 나눠 적절한 API를 호출하거나 데이터베이스(DB)를 스스로 찾아 답하는 식이다. 이를 통해 답변 정확도를 높일 수 있다. 그는 "이는 기존 RAG보다 품질 높은 답변을 준다"고 강조했다.
최효근 아키텍트는 AWS가 '책임감 있는 AI'구현도 힘쓴다고 강조했다. 그는 "모델이 응답할 때 내부적으로 필터링해야 한다"며 "베드록은 이를 위한 가드레일을 제공한다"고 설명했다. 사용자가 유해 콘텐츠 차단 등 AI 정책을 모델 내 세팅할 경우, 베드록은 이를 위한 필터링을 만들거나 개인 식별 번호 등을 설정한다. 외부로 유출되면 안 되는 정보까지 필터링한다.
이날 AWS 루크 앤더슨 아시아 태평양 및 일본 AI·ML 매니징 디렉터도 자리했다.
관련기사
- AWS, ‘생성형 AI 컴피턴시’ 발표2024.03.11
- "생성형 AI 도입 이렇게 하세요"…메가존, AWS와 특별한 자리 만든다2024.02.27
- 일론 머스크 "AI 챗봇 그록, 오픈소스로 공개"2024.03.12
- 베스핀글로벌, AWS 컨트롤타워 구축 기간 60%↓2024.03.07
그는 LG AI연구원을 비롯한 KT, 업스테이지, 이스트소프트 등과 협력해 다양한 생성형 AI 모델과 서비스를 구축했다고 알렸다. 앤더슨 디렉터는 “모든 고객이 쉽게 빠르게 생성형 AI를 사용할 수 있도록 서비스를 연구하고 있다”며 “IT 전문가가 아니어도 몇 분 안에 AI를 구축할 수 있게 만들 것”이라고 강조했다.
메가존클라우드 김한수 그룹장도 지난해 출시된 젠AI360 오퍼링 서비스를 소개했다. 젠AI360은 생성형 AI를 도입하고자 하는 기업들을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 생성형 AI 엔드 투 엔드 서비스다. 김한수 그룹장은 "최근 기업들이 RAG와 파인튜닝에 집중하는 추세"라며 "이러한 시대에 발맞춰 메가존도 AWS와 협력해 안전한 개발 환경을 위한 기능을 젠AI360에 꾸준히 넣을 것"이라고 강조했다.
