마이크로소프트, 애저 챗GPT 서비스 출시…천토큰당 0.002센트

마이크로소프트 애저에서 오픈AI의 챗GPT를 API 서비스를 쓸 수 있게 됐다.

9일(현지시간) 마이크로소프트는 애저 오픈AI 서비스의 챗GPT 서비스 미리보기를 제공한다고 발표했다.

현재 챗GPT를 사용할 수 있으며, 가격은 토큰 1천개당 0.002달러다. 모든 챗GPT 사용에 대한 청구는 13일부터 시작된다.

애저 오픈AI 서비스는 GPT-3.5, 달리2, 코덱스 등 오픈AI의 초거대 AI 모델에 접근할 수 있는 서비스다. 애저의 오픈AI 전용 인프라를 기반으로 서비스된다. 지난1월 정식 출시됐다.

챗GPT(이미지=오픈AI)

개발자는 애저의 챗GPT 서비스를 이용하면 개발자는 기존 봇을 개선할 수 있다. 예상치 못한 질문 처리, 콜센터 대화 요약, 개인화된 광고 문구 작성, 청구 처리 자동화 등 사용자 지정 AI 기반 환경을 자체 애플리케이션에 직접 통합할 수 있다.

코그너티브 서비스를 애저 오픈AI 서비스와 결합해 엔터프라이즈를 위한 매력적인 사용 사례를 만들 수 있다. 예를 들어 애저 오픈AI와 애저 코그너티브 검색을 결합해 엔터프라이즈 데이터에서 지식 기반 검색에 대화형 언어를 사용할 수 있다.

애저 오픈AI 스튜디오로 고객 시스템에 챗GPT 서비스를 커스터마이징하는 모습

고객과 파트너는 애저 오픈AI 스튜디오에서 노코드 방식으로 새로운 인텔리전트 앱과 솔루션을 만들 수 있다. 애저 오픈AI스튜디오는 서비스를 통해 제공되는 모든 모델에 대한 사용자 지정 기능을 제공하고, 챗GPT를 사용자 지정하고 조직에 맞는 응답 동작을 구성할 수 있는 고유한 인터페이스도 제공한다.

마이크로소프트는 챗GPT나 달리 이미지 생성 모델 같은 생성 AI 모델 창조물의 잘못된 정보 생성을 방지한다.

마이크로소프트는 4단계로 구성된 계층화된 완화 기능을 사용한다. 마이크로소프트의 책임 있는 AI 표준과 같다. 첫째, 애플리케이션 수준 보호로, 텍스트 출력이 AI 생성물임을 설명하고 사용자에게 이를 승인하도록 하는 등 고객에게 책임을 부여한다. 둘째는 입력 및 출력 콘텐츠 필터링과 같은 기술적 보호이며, 셋째는 남용 신고 시스템부터 서비스 수준 계약에 이르는 프로세스 및 정책 보호다. 넷째는 모델의 장점과 테스트한 내용을 설명하는 설계 지침 및 투명성 노트와 같은 문서화다.