MS, LLM 전용 인터페이스 라이브러리 ‘타입챗’ 공개

불필요한 작업 없이 한번에 대규모 언어모델과 앱 연결 지원

컴퓨팅입력 :2023/07/26 10:05

마이크로소프트(MS)가 효율적인 대규모언어모델(LLM) 개발을 위해 전용 인터페이스 라이브러리 ‘타입챗’을 공개했다.

최근 인포월드 등 외신에 따르면 마이크로소프트는 자연어 인터페이스(NLI) 오픈소스 라이브러리 타입챗을 깃허브와 npm을 통해 공개했다고 공식 깃허브 블로그에서 밝혔다.

타입챗은 LLM과 앱과의 연결 과정을 개선하기 위해 개발된 오픈소스 라이브러리다. 이를 통해 개발자의 업무 효율을 높이고 제품의 안정성과 성능을 향상시키는 것이 목표다.

타입챗(이미지=마이크로소프트)

LLM은 일반적으로 자연어 이해(NLU)와 자연어 생성(NLG) 기술을 기반으로 하며 자연어기반 입출력이 주로 이뤄진다.

기존 앱 인터페이스는 자연어를 고려하지 않은 버튼, 폼, 메뉴 등의 상호작용 요소만 제공한다. 이로 인해 자연어 인터페이스를 통합하는 과정에서 업무 부하가 발생해 개발 기간이 늘어나며, 불필요한 중간 과정을 거치는 만큼 오류가 발생할 확률도 높아진다. 처리 속도에도 악영향을 미친다.

타입챗은 타입스크립트 기반으로 코드베이스 유형 정의를 사용해 기존 앱 인터페이스와 자연어 인터페이스를 통합했다. 덕분에 인터페이스 설정이 간단해지고 코드 구조의 신뢰성을 높일 수 있게 됐다.

관련기사

타입챗 연구팀은 “타입스크립트는 정적 타입 언어로 변수, 함수, 객체 등의 모든 요소에 대해 명시적으로 타입을 선언할 수 있다”며 “이를 통해 타입챗은 코드베이스에서 유형 정의를 쉽게 작성하고 유지 보수할 수 있는 환경을 제공한다”고 설명했다.

이어서 “타입챗은 개념적으로 단순하지만 자연어와 앱이 함께 작동하는 사이의 격차를 해소할 수 있는 강력한 방법”이라며 “우리는 언어모델과의 소통 과정 중 발생하는 어려움을 해결하려 했으며 이를 통해 상당 부분을 개선했다고 생각한다”고 전했다.