GPU 천하 AI 시장에 ‘추론 강점’ 국산 NPU 파고든다

정부, AMD 협력·풀스택 실증으로 NPU 시장 확산 지원

글로벌 AI 시장이 학습에서 추론 중심으로 전환하면서 AI 반도체 경쟁도 개별 칩 성능을 넘어 하드웨어와 소프트웨어를 결합한 플랫폼 경쟁으로 확대되고 있다. 이에 정부는 국산 NPU를 중심으로 다양한 연산 자원을 결합하는 개방형 AI 컴퓨팅 생태계 구축에 나선다.

과학기술정보통신부는 20일 서울 광화문 HJ비즈니스센터에서 국내 AI 반도체 업계 관계자들과 ‘개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 간담회’를 열어 국산 NPU 시장 확산과 글로벌 컴퓨팅 생태계 참여 방안을 논의했다.

이는 지난 7월 과기정통부와 AMD가 체결한 업무협약 후속 조치다.

최근 생성형 AI 서비스가 확산하면서 AI 컴퓨팅 시장의 무게중심은 대규모 모델을 만드는 학습에서 실제 서비스를 구동하는 추론으로 이동하고 있다. 이에 따라 연산 성능뿐 아니라 전력 효율과 비용 경쟁력이 AI 인프라의 주요 경쟁 요소로 부상하고 있다.

AI 서비스마다 요구하는 연산 환경도 달라지면서 특정 반도체에 의존하기보다 CPU와 GPU, NPU를 메모리 네트워크 소프트웨어와 조합하는 개방형 컴퓨팅 구조의 중요성도 커지고 있다.

특히 정부와 업계는 글로벌 AI 반도체 경쟁이 개별 칩의 성능 경쟁에서 전체 시스템을 얼마나 효율적으로 구성하느냐를 겨루는 방향으로 바뀌고 있다고 봤다.

이날 퓨리오사AI는 개방형 AI 컴퓨팅 인프라의 글로벌 동향과 국내 AI 반도체 업계 대응 방향을 발표했다. AMD코리아는 과기정통부와 체결한 MoU의 주요 내용과 실행 계획을 공유했으며, 망고부스트와 모레는 AMD와 추진 중인 AI 컴퓨팅 최적화와 소프트웨어 협력 현황을 소개했다.

참석 기업들은 GPU 중심의 단일 구조에서 벗어나 AI 반도체와 메모리, 네트워크, 소프트웨어를 유기적으로 연결하는 생태계를 구축해야 한다는 데 의견을 모았다.

이를 위해 CPU, GPU 등 가속기와 메모리를 고속으로 연결하는 CXL과 네트워크 저장장치 등의 데이터 처리를 전담하는 DPU 등 차세대 인프라 기술 활용을 확대할 필요성이 제기됐다. 메모리 내부에서 연산을 수행하는 PIM과 인간의 뇌 구조를 모방한 뉴로모픽 반도체 등 미래 AI 반도체 원천기술에 대한 투자도 강화해야 한다는 의견이 나왔다.

하드웨어뿐 아니라 소프트웨어와 플랫폼을 아우르는 풀스택 경쟁력 확보도 과제로 꼽혔다. 개방형 인터페이스와 국제표준, 오픈소스를 기반으로 서로 다른 기업의 AI 반도체와 소프트웨어를 연결하고 이를 실제 환경에서 검증할 국가 차원의 실증 기반이 필요하다는 설명이다.

AMD와의 협력을 실제 사업 성과로 연결해야 한다는 주문도 나왔다. 참석 기업들은 과기정통부와 AMD의 MoU가 국내 AI 반도체 기업의 글로벌 생태계 진입 기회를 넓혔다고 평가하면서도 구체적인 공동 과제 발굴과 후속 실행이 필요하다고 강조했다.

과기정통부는 국산 NPU가 실제 데이터센터와 AI 서비스에서 활용될 수 있도록 풀스택 실증 지원을 강화할 방침이다. 추론 시장 확대를 국산 AI 반도체의 시장 진입 기회로 활용하겠다는 전략이다.

배경훈 부총리 겸 과기정통부 장관은 “글로벌 AI 시장이 학습에서 추론 중심으로 전환되면서 AI 경쟁의 무대도 개별 칩 성능을 넘어 전력 비용 효율성을 갖춘 개방형 AI 컴퓨팅 생태계 경쟁으로 확대되고 있다”며 “이는 추론 효율성에 강점을 가진 국내 NPU 기업에 새로운 기회가 될 것”이라고 말했다.

이어 “국산 NPU가 실제 데이터센터와 AI 서비스 현장에서 활용되는 성공 사례를 조속히 확보할 수 있도록 풀스택 실증 지원을 강화하고 관련 생태계 구축에 노력하겠다”고 밝혔다.