[AI는 지금] 클라우드 밖으로 나온 AI…'엣지 SW' 새 시장 열린다

인공지능(AI)이 데이터센터를 벗어나 공장과 매장, 로봇 등 실제 산업 현장으로 빠르게 확산하고 있다. AI 모델을 클라우드에서 불러 쓰는 대신 데이터가 발생하는 곳에서 직접 구동하려는 수요가 늘면서 모델 최적화와 배포, 운영·관리까지 맡는 엣지 AI 소프트웨어 시장도 커지는 모습이다.

27일 업계에 따르면 엣지 AI 경쟁은 AI 모델을 만드는 단계에서 실제 현장에 안정적으로 적용하고 운영하는 단계로 넓어지고 있다. 제조·자동차·로봇 등 산업 기반이 두터운 국내에서도 현장에 AI를 적용하려는 수요가 커지면서 소프트웨어 기업들의 사업 기회가 확대될 것이란 기대감도 커지고 있다.

엣지 AI는 데이터를 중앙 클라우드로 보내 처리하는 대신 기기나 현장 인근에서 AI 모델을 실행하는 방식이다. 네트워크 지연을 줄여 실시간 대응이 가능하고 생산정보나 영상 등 민감한 데이터를 외부로 보내지 않아도 돼 제조·리테일·모빌리티 등에서 활용되고 있다.

최근에는 엣지에서 구동되는 AI 모델의 종류도 다양해지고 있다. 기존에는 객체 탐지나 이상 감지 같은 비전 AI가 주요 활용처였다면 최근에는 비전언어모델(VLM)과 소형언어모델(SLM) 등 생성형 AI까지 현장에서 직접 실행하려는 수요가 늘고 있다.

시장조사기관 IDC도 엣지에서 AI를 실제 운영하기 위해 데이터 파이프라인과 오케스트레이션, 플릿 관리, 애플리케이션·거버넌스 소프트웨어가 함께 필요하다고 봤다. AI가 산업 현장으로 확산할수록 개별 모델보다 여러 장비와 시스템을 연결하고 관리하는 소프트웨어의 역할이 커질 수 있다고 판단해서다.

업계 관계자는 "산업 현장에 AI를 적용하는 과정은 클라우드보다 복잡하다"며 "같은 모델이라도 장비별 메모리와 운영 환경, 네트워크 조건에 맞춰 크기와 연산량을 줄여야 하고 배포 이후에는 성능과 버전을 지속적으로 관리해야 한다"고 조언했다. 이어 "여러 공장이나 매장에 AI가 설치되면 수백~수천 개 현장에 흩어진 모델을 중앙에서 관리하는 체계도 필요하다"고 덧붙였다.

이에 맞춰 글로벌 산업용 소프트웨어 기업들도 이런 수요를 겨냥하고 있다. 특히 지멘스는 '인더스트리얼 AI 스위트'를 통해 클라우드나 온프레미스 환경에서 개발한 AI 모델을 공장 내 엣지 장비에 배포하고 운영할 수 있도록 지원하고 있다. 모델 버전 관리와 단계적 배포, 성능 모니터링까지 묶어 여러 생산 현장의 AI를 하나의 운영 환경에서 관리하는 방식이다.

국내에서는 '넷츠프레소'를 운영하는 노타AI가 대표적이다. '넷츠프레소'는 양자화와 그래프 최적화 등을 적용해 모델의 연산량을 줄이고 다양한 실행 환경에 맞춰 변환·검증할 수 있도록 지원하는 플랫폼이다.

노타AI는 엣지에서 구동하려는 모델이 생성형 AI로 넓어지고 있다는 점을 고려해 플랫폼 기능도 고도화하고 있다. 사용자가 목표 성능과 제약 조건을 입력하면 AI 에이전트가 적합한 최적화 방식과 설정을 탐색하고 모델 변환·검증까지 수행하도록 해 개발자가 장비마다 일일이 최적화하는 부담을 줄이는 데 초점을 맞췄다.

마키나락스는 제조 현장에서 AI를 개발하고 배포·운영하는 AI 운영체제 '런웨이'를 앞세우고 있다. 폐쇄망을 포함한 산업 환경에서 AI 모델과 애플리케이션을 관리할 수 있도록 설계해 제조·국방·공공 등으로 적용 범위를 넓히고 있다.

현대자동차와 추진 중인 산업용 로봇 예지보전 시스템도 이의 일환이다. 마키나락스는 로봇의 이상 징후를 AI로 미리 감지하는 시스템을 아산공장에서 시작해 국내외 주요 생산 거점으로 확대하고 있으며 약 1400대의 로봇에 순차 적용하고 있다. 단일 공장 실증에서 벗어나 여러 생산 현장으로 적용 규모를 키우는 모습이다.

이처럼 국내 제조·자동차·로봇 현장에서 쌓은 경험은 해외 시장에서도 경쟁력이 될 것으로 전망된다. 실제 장비와 업무 환경에 맞춰 AI를 배포·운영한 레퍼런스가 해외 고객 확보에도 도움이 될 수 있어서다.