마이크로소프트, 로컬 AI 개발도구 '윈도 AI 스튜디오' 출시

디바이스에서 구동되는 인공지능(AI)을 개발하고 배포할 수 있는 윈도용 AI 개발도구가 출시됐다.

마이크로소프트는 15일(현지시간) 미국 시애틀에서 개최한 연례 컨퍼런스 '이그나이트 2023'에서 윈도 환경에서 로컬 AI를 개발하고 배포할 수 있는 AI 개발환경 '윈도 AI 스튜디오'를 출시한다고 발표했다.

윈도 AI 스튜디오는 개발자가 디바이스 환경에서 AI를 개발할 수 있게 하는 통합 도구다. 각종 개발 툴과 프레임워크, 오픈소스 모델을 쉽게 이용하고, 모델 테스트와 미세조정, 최적화 등도 수행할 수 있다.

윈도 AI 스튜디오용 VS코드 확장에서 미세 조정할 모델을 선택하는 모습

애저 AI 스튜디오와 허깅페이스 카탈로그의 최신 AI 개발 도구와 모델을 통합해 생성형 AI 앱을 개발하고, 소규모언어모델(SLM)을 미세조정, 개인화해 배포할 수 있다. SLM은 윈도 앱에서 클라이언트 로컬용으로 사용할 수 있다. 모델 구성 UI를 포함하는 엔드투엔드 안내 작업 공간 설정과, 파이(Phi) 같은 SLM을 미세조정하기 위한 안내를 제공한다. 개발자는 작업 공간에 통합된 프롬프트 플로우와 그라디오(Gradio) 템플릿을 사용해 미세조정된 모델을 신속하게 테스트할 수 있다.

또 하이브리드 루프 개발 패턴을 지원하고, 애저 및 클라이언트 장치 전반에 걸친 Ai 시나리오를 활성화할 수 있다. 애저 클라우드나 윈도 중에서 하나, 혹은 두가지 모두에서 모델을 실행할 수 있게 된다. 프롬프트 플로우를 사용해 로컬 SLM과 클라우드 LLM을 전환하면서 하이브리드 패턴으로 구동되게 구현할 수 있다.

일반적 언어모델 미세조정 작업 흐름

수주일 내 개발자는 친숙한 인터페이스인 비주얼스튜디오코드(VSCode) 익스텐션으로 윈도 AI 스튜디오에 접근할 수 있다. 안내식 인터페이스를 통해 코딩에 집중하면서 필요한 도구로 환경을 설정해 작업을 수행할 수 있다.

윈도 AI 스튜디오는 미세조정 기능 외에 라마2-7B, 미스트랄-7B, 팰컨-7B, 스테이블디퓨전 XL 등의 최첨단(STOA) 모델을 제공할 예정이다. 이 모델들은 윈도 GPU와 NPU에 최적화됐다.

마이크로소프트는 SLM을 다양한 환경에서 구동하게 하는 ONNX 런타임을 통해 개발자의 윈도 AI 개발을 지원한다. 기본 윈도 머신러닝 API인 다이렉트ML을 통해 개발자는 고성능이면서 간단한 AI 개발환경에 접근할 수 있다. ONNX 모델 최적화 도구인 '올리브(Olive)'를 이용해 개발자는 다이렉트ML과 ONNX 런타임을 결합해 모델을 최대 성능으로 실행하게 할 수 있다.

이와 함께 리눅스용 윈도하위시스템(WSL)은 윈도와 리눅스 워크로드를 동시에 실행할 수 있게 해 윈도에서 멀티 환경을 위한 AI를 개발하게 한다. 개발자는 추가 설정 없이 두 환경 간에 파일, GUI 앱, GPU 등을 쉽게 공유할 수 있다.

WSL은 엔터프라이즈급 보안 요구사항을 충족하도록 향상됐다. 엔드포인트용 마이크로소프트 디펜더는 WSL용 플러그인을 새롭게 출시해 실행중인 모든 배포에서 이벤트를 지속적으로 모니터링할 수 있다.

마이크로소프트 인튠으로 WSL 및 주요 보안 설정에 대한 접근을 제어할 수 있다. 관리자는 WSL 접근을 구성하거나 사용자지정커널, 중첩 가상화 같은 특정 보안 설정에 대한 접근을 살펴보고 WSL 사용의 보안을 보장할 수 있다. WSL의 고급 네트워킹 제어는 WSL 가상머신에 적용되는 방화벽 규칙을 지정하고, 복잡한 엔터프라이즈 환경에서 네트워크 호환성을 향상시킬 수 있다.