카카오엔터프라이즈, '카카오 i 머신러닝' 출시

효율적인 AI 개발 환경 지원…HPC 클러스터 구축된 GPU 팜 제공

카카오엔터프라이즈는 효율적인 AI 개발 환경을 지원하는 머신러닝 운영 플랫폼 '카카오 i 머신러닝'을 출시했다고 30일 밝혔다. 

카카오 i 머신러닝은 어려운 인프라 지식이나 모델 운영 노하우없이도 AI 모델 학습부터 추론, 배포까지 프로세스 전반을 통합 관리할 수 있는 플랫폼으로 시스템 개발과 서비스 운영을 통합해 안정적이면서 신속한 개발 환경을 제공한다.

회사는 "카카오의 다양한 서비스에서 활용되는 AI 모델을 연구·개발하고 직접 운영한 경험과 노하우를 집약해 카카오 i 머신러닝을 선보였다"며 "실제 현업에서 바로 적용 가능한 수준으로 안정성과 실용성을 갖췄다"고 설명했다. 

카카오 i 머신러닝은 모델 학습 과정에서 반복 작업을 줄여 업무 생산성을 대폭 향상하며, AI 모델의 버전 관리를 통해 지속적인 모니터링과 유지·보수가 가능해 주기적으로 최신 AI 모델을 출시할 수 있도록 지원한다.

또한 카카오 i 머신러닝은 고성능 컴퓨팅(HPC) 클러스터가 구축된 GPU 팜을 제공해 기업 고객은 원하는 목적에 따라 엔비디아 A100, V100, T4 등 고성능 GPU 장비를 연동해 사용할 수 있으며 ▲인프라 관리 ▲데이터 관리 ▲실험 관리 ▲머신러닝 파이프라인 ▲배포 관리 등의 기능을 지원한다.

카카오 i 클라우드는 쿠버네티스 기반 클라우드 컴퓨팅 기술을 통해 높은 호환성과 유연성을 보장하고, 여러 고성능 장비 간 통신을 동시다발적으로 처리할 수 있는 인피니밴드 기술이 적용된 GPU 노드간 통신 및 스토리지로 빠른 데이터 입출력(I/O) 속도를 제공한다. 회사는 특히 대규모 데이터를 사용해 AI 연구 및 서비스를 제공하는 기업에 적합할 것으로 기대했다.

머신러닝 엔지니어와 개발자들은 카카오 i 머신러닝을 통해 개인 작업공간인 워크스페이스를 원하는 만큼 생성하고 필요한 컴퓨팅 자원을 할당받아 사용할 수 있으며 IT 관리자는 조직 내에서 각자 담당하는 역할에 따라 권한을 부여할 수 있다. 또한 각자의 워크스페이스에 동료를 초대해 손쉽게 결과물을 공유하고 소통할 수 있어 머신러닝 연구자와 엔지니어 간 협업을 원활하게 한다. 각 사용자가 원하는 작업 환경에 따라 선택할 수 있도록 직관적인 웹 콘솔과 명령줄 인터페이스(CLI), 소프트웨어 개발 키트(SDK)도 제공한다.

최동진 카카오엔터프라이즈 AI 총괄(CAIO)은 “이번에 선보이는 카카오 i 머신러닝은 어려운 인프라 지식이나 운영 노하우없이도 AI 모델의 라이프사이클 전 과정을 손쉽게 통합 관리할 수 있는 강력한 플랫폼”이라며 “더 나아가 챗GPT, 생성형 AI와 같은 대규모 컴퓨팅 자원을 요구하는 고성능 분산 학습 환경까지 지원해 새로운 가치를 창출하는 데 기여할 것"이라고 말했다.