똑똑해진 AI의 숨은 고민…GPU 사각지대 채우는 K-반도체

6~8일 코엑스 'AI페스타 26', AI반도체·인프라 특별관 운영

초거대 AI 모델의 확산으로 연산 성능에 대한 수요가 급증하고 있지만 기존 그래픽처리장치(GPU) 중심의 인프라는 전력 소비, 높은 도입 비용, 데이터 전송 병목 등 구조적 한계에 부딪히고 있다. 특히 클라우드 연결이 불가능한 산업 현장이나, 방대한 데이터 처리 및 검색이 요구되는 데이터센터 환경에서는 GPU만으로 전체 AI 가치사슬을 커버하기 어렵다는 지적이 제기된다.

다음 주 10월 6일부터 삼성동 코엑스 C홀에서 개최되는 ‘AI페스타’ AI반도체 특별관과 AI인프라 특별관에서는 이러한 GPU의 사각지대를 메우고, AI를 산업 현장에 실제 구동 가능한 상태로 전환하는 국내 반도체·인프라 스타트업 5개사의 기술과 솔루션이 집중 조명된다.

딥엑스, DX-M1 (사진=딥엑스)

클라우드 끊고 현장으로…엣지·온디바이스 집중하는 AI 반도체

AI반도체 특별관에 참가하는 딥엑스와 모빌린트는 클라우드 서버에 의존하지 않고 기기 자체에서 실시간 AI 연산을 수행하는 NPU(신경망처리장치) 기술의 현장 적용 사례를 선보인다.

딥엑스는 자사 NPU ‘DX-M1’의 실제 산업 현장 적용성에 초점을 맞춘다. 단독 부스 대신 파트너사인 달구, 바이다와 공동으로 부스를 꾸려 칩 상용화 생태계를 시연한다. 현장에서는 DX-M1을 탑재해 5W 미만의 전력으로 비전언어모델(VLM)을 구동하는 엣지 AI 박스를 비롯해 스마트글라스를 활용한 AI 응급현장 지원 솔루션, 자율주행 기반 차량 감속 유도 로봇 등이 전시된다.

딥엑스 관계자는 "이번 전시는 칩 자체보다 파트너 제품이 응급의료 현장과 도로 위에서 어떻게 작동하는지를 보여주는 데 방점을 뒀다"며 "초저전력 온디바이스 AI가 피지컬 AI 영역으로 확장되는 흐름을 체감할 수 있을 것"이라고 설명했다.

모빌린트의 AI 칩 레귤러스(사진=모빌린트)

모빌린트 역시 클라우드 연결 없이 기기와 현장에서 직접 AI 연산을 수행하는 엣지 AI 솔루션을 출품한다. AI 가속기 카드 ‘MLA100’과 AI Box ‘MLX-A1’, 초저전력 SoC(시스템 온 칩) 레귤러스 등 주요 라인업을 통해 스마트팩토리 및 로봇 등 다양한 산업 영역의 구동 사례를 소개한다.

모빌린트 관계자는 “AI 반도체의 경쟁력은 소프트웨어와 결합해 고객의 제품과 산업 현장에서 실질적인 가치를 만들어내는 데 있다”며 “이번 전시에서 파트너들과 함께 엣지 AI 솔루션을 늘리고, 공동으로 사업 기회를 발굴해 나가겠다”고 밝혔다.

AI페스타 KOSA 공동관(사진=남혁우 기자)

AIDC 인프라와 에이전트 메모리 병목 뚫는 인프라 3사

AI인프라 특별관에서는 데이터 전송 및 메모리 용량의 물리적 한계로 인해 GPU 연산 효율이 저하되는 현상을 해결하는 기술들이 전시된다.

디노티시아는 AI 에이전트의 데이터 검색 및 장기기억 활용 시 발생하는 병목을 해결하기 위한 벡터 검색 가속기 ‘VDPU’를 전면에 내세운다. 자체 벡터DB ‘씨홀스’와 VDPU를 통합한 스토리지를 통해 기업 내부 지식 검색 인프라를 제시한다. GPU가 연산을, VDPU가 검색을 전담하는 보완적 구조다.

정무경 디노티시아 대표는 “AI가 직접 데이터를 찾아 활용하는 시대에는 스토리지의 역할도 달라져야 한다”며 “VDPU 기반 AI 스토리지로 AI에 필요한 정보를 제때 공급하는 데이터 인프라를 만들어가겠다”고 전했다.

씨호스 클라우드 2.0.(사진=디노티시아)

파네시아는 AI 데이터센터(AIDC) 효율성 제고를 위한 CXL(컴퓨트 익스프레스 링크) 기반 풀스택 링크 솔루션을 출품한다. 자체 개발한 국산 CXL 스위치 칩과 IP(설계자산)를 통해 소버린 AIDC 내부의 이기종 연산 장치와 메모리 자원을 효율적으로 연결, 메모리 확장성을 확보하는 기술을 시연한다.

망고부스트는 서버 내 네트워크 및 스토리지 가속을 전담하는 DPU 솔루션을 공유한다. 데이터 이동 경로의 과부하를 최소화하고 중앙처리장치(CPU)와 GPU의 연산 부하를 덜어주어 데이터센터 전반의 효율을 극대화하는 방안을 제시할 계획이다.

한편 이번 AI페스타는 과학기술정보통신부가 주최하고 한국소프트웨어산업협회(KOSA)와 AI페스타 조직위원회가 주관하며 다음 달 6일부터 8일까지 사흘간 서울 삼성동 코엑스 C홀에서 열린다. 행사장에서는 AI반도체, AI 인프라, 피지컬 AI 등 다양한 분야 기업들을 만나볼 수 있다.