MS, AI 에이전트로 코파일럿 런타임 러스트 전환…속도 최대 15.9배 향상

43만 줄 타입스크립트 코드, 러스트로 재작성…메모리 사용량 90% 절감

마이크로소프트가 깃허브 코파일럿을 비롯한 인공지능(AI) 서비스 핵심 런타임을 타입스크립트에서 러스트로 전환했다. 대규모 코드 이식 작업의 상당 부분은 AI 에이전트가 맡았으며 특정 벤치마크에서 기존 구현보다 최대 15.9배 높은 처리 성능을 기록했다.

스티븐 투브 마이크로소프트 수석 엔지니어는 약 43만 줄의 타입스크립트 코드를 80만 줄 이상의 프로덕션용 러스트 코드로 이식했다고 깃허브 블로그를 통해 21일 밝혔다. 프로젝트는 약 14.5주간 진행됐고 이 기간 135회 이상의 배포가 이뤄졌다. AI 토큰 사용 비용은 약 12만 달러로 집계됐다.

마이크로소프트 코파일럿(이미지=마이크로소프트)

이번 전환 대상은 깃허브 코파일럿 명령줄 인터페이스, 코파일럿 앱, 소프트웨어 개발 키트, 깃허브 코파일럿 클라우드 에이전트 등을 지원하는 공통 런타임이다. 이 런타임은 VS 코드와 비주얼 스튜디오를 비롯해 엑셀, 아웃룩, 파워포인트, 워드 등 다양한 마이크로소프트 제품과 서비스에 활용된다.

마이크로소프트는 이번 작업의 핵심이 단순한 언어 교체가 아니라 노드js와 V8 기반 구조에서 벗어나는 데 있었다고 설명했다. 기존 타입스크립트 기반 런타임은 빠른 개발에는 유리했지만 여러 제품과 서버 환경에 공통으로 적용하기에는 시작 시간, 메모리 사용량, 프로세스 관리 측면에서 부담이 있었다.

러스트 기반 런타임은 프로세스 내부에 직접 탑재할 수 있어 별도 백그라운드 프로세스 구동 필요성을 줄였다. 

공유 클라이언트와 100개 동시 파이프라인 환경에서 1000회의 단일 턴 세션 생명주기를 처리한 시험에서 타입스크립트 버전은 초당 7.55회를 기록한 반면, 러스트 버전은 초당 120회를 처리했다. 에이전트 클라이언트 10개를 실행한 조건의 메모리 사용량도 타입스크립트 버전 1383MB에서 러스트 버전 126MB로 감소했다.

AI 에이전트는 단순히 코드를 생성하는 역할에 그치지 않았다. 기존 코드와 문서, 테스트를 조사하고 작업을 하위 세션으로 나누며 다른 에이전트와 작업 범위를 조율하는 방식으로 활용됐다.

다만 이번 사례는 AI 에이전트가 러스트 코드를 작성 과정의 한계도 보여줬다. 마이크로소프트 측은 전환 과정에서 수십 건의 회귀, 즉 기존에는 정상 동작하던 기능이 변경 이후 깨지는 문제를 발견했다고 밝혔다. 

러스트 컴파일러는 메모리 안전성이나 타입 오류를 방지하는 데 강력하지만 코드가 제품 요구사항을 충족하는지, 기존 구현과 기능적으로 동일한지, 성능과 비용 면에서 적절한지를 판정하지 못했다는 설명이다.

컴파일을 통과한 코드라도 기능 이식 누락, 모호한 의미 해석, 브랜치 간 변경 사항의 불일치, 대체 구현의 동작 차이로 인해 실제 제품에서는 문제가 생긴 사례도 있었다.

스티븐 투브 수석 엔지니어는 "우리의 목표는 대규모 서비스 환경에서 요구되는 성능과 확장성, 낮은 자원 사용량을 확보하기 위한 것이었다"며 "AI 에이전트는 이 같은 대규모 마이그레이션을 현실적인 비용과 기간 안에 수행할 수 있게 해줬다"고 말했다.

이어 "다만 AI로 만든 코드가 컴파일된다고 해서 코드가 올바른 것은 아니다"라며 "요구사항 검증과 품질 보증은 여전히 인간의 역할"이라고 덧붙였다.