"컴퓨팅 파워, 인공지능으로 최적화한다"

소이넷 박정우 대표, '아시아 CIO들이 소이넷을 선택한 이유' 발표

“에지 장비에 인공지능(AI)을 탑재하는 건 무겁고 AI 전문가를 구하기도 어렵다. AI 서비스를 제공하면 느려지는 속도…AI 실행 시장의 꼽히는 이슈다.”

박정우 소이넷 대표는 서울 강남구 삼성동 코엑스에서 10일부터 이틀간 진행되는 ‘4차 산업혁명 컨퍼런스’에서 ‘컴퓨팅 파워, 인공지능으로 최적화한다’를 주제로 아시아 CIO들이 소이넷을 선택한 이유에 대해 발표했다.

4차 산업혁명 컨퍼런스는 지디넷코리아가 주최하고 과학기술정보통신부와 대통령 직속 4차산업혁명위원회가 공동으로 후원하는 행사다. 코엑스 행사 진행과 더불어 코로나19 확산 방지를 위해 온라인으로 동시 송출한다.

이날 박 대표 발표에 따르면 인공지능이 인간의 능력을 앞지르기 시작한 지 10여 년이 지나면서, MLOps(Machine Learning Operations) 시대가 열리고 있다. 최근 JP모건은 2022년에 이르러 인공지능 실행 시장이 57% 성장에 이를 것으로 전망한 바 있다.

박정우 소이넷 대표(사진=지디넷코리아)

박정우 대표는 “요즘 화제를 모으고 있는 테슬라 오픈AI의 GPT-3 모델은 학습에만 한화 기준으로 약 151억원이 사용됐다”며 “인공지능의 규모가 대형화돼가면서 이제는 어떻게 인공지능을 현장에 적용할 것인지가 시장의 중심이 될 것”이라고 내다봤다.

박 대표는 “자사 기술력으로 도메인 선정과 데이터 수집, 모델개발 및 학습 완료 이후 필요한 서비스까지 소요되는 3~6개월의 최적화·가속화 기술 개발 기간을 수일 수준으로 단축, 제품 적시 출시(Time to Market)를 지원할 수 있다”고 밝혔다.

소이넷은 GPU를 이용한 가속을 베이스로 그 위에서 GPU 사용률을 극대화할 수 있도록 설계된 범용 소프트웨어 가속기다.

소이넷의 고객사로 포스코, 현대제철 등이 꼽힌다. 이들 기업은 직접 해당 기술을 사용한다. 또한 소이넷은 뉴로메카나 핀텔, 비알프레임, 트윔, 하나텍 등 자체 솔루션을 보유한 기업들에도 제품을 공급하고 있다.

박 대표는 이번 발표에서 고객사인 포스코 사례에 대해 소개했다. 박 대표에 따르면 포스코에 공급하는 소이넷 AI 인퍼런스 온리 프레임워크 실행 시에 구글 텐서플로우 대비 속도는 3배, 메모리는 1/6로 경량화해 인공지능의 실행을 최적화한다.

박정우 대표는 “포스코 사례는 전형적인 MLOps 구조로 지속적으로 데이터를 수집해서 전처리하는 과정을 거친 뒤, 학습하게 된다”며 “학습을 마친 데이터는 소이넷으로 배포된다”고 말했다.

그는 “소이넷을 통해 GPU 사용량을 감소해 서버 비용을 줄일 수 있다”며 “인공지능 애플리케이션 개발 비용도 절감시킬 수 있다”고 전했다. 이어 “모델 최적화 및 강종 별 분류로 분석 효율성도 제고 가능하다”고 덧붙였다.

한편, 소이넷은 AI 가속기 분야 스타트업이다. 회사는 지난 2016년 창업, 이후 2018년 소이넷을 개발했다. 소이넷은 GPU를 이용한 가속을 베이스로 그 위에서 GPU 사용률을 극대화할 수 있도록 설계된 범용 소프트웨어 가속기다.