네이버와 인텔이 인공지능(AI) 반도체 협업을 진행하는 가운데 성능 실험 결과에서 인텔의 '가우디2'가 엔비디아의 'A100' 대비 더 높은 처리량과 짧은 처리시간을 보였다. 이에 업계 내부에서는 '가우디'가 가격과 수급 문제를 동시에 잡을 수 있는 AI칩의 대안이라는 분석을 내놓고 있다.
8일 스퀴즈비츠가 공개한 '시냅스AI v1.19' 실험 결과에 따르면 '가우디2'는 이전 버전인 v1.18에서 성능이 부족했던 '어텐션 커널(Attention Kernel)' 부분을 크게 개선하면서 '엔비디아 A100'보다 최대 40% 높은 처리 속도를 기록했다.
일례로 1천개의 토큰을 입력데이터로 처리하는 경우 '가우디2'는 초당 3천600개의 토큰을 처리하며 처리 시간도 28ms(밀리초)로 'A100'의 초당 3천400개, 33ms보다 빨랐다. 토큰 개수를 2천개(2K)로 늘려도 '가우디2'는 초당 2천900개의 작업을 처리하고 38밀리초(ms)가 걸려 'A100'의 초당 2천750개, 42밀리초보다 우수한 성능을 보여줬다.
'가우디2'의 성능이 크게 향상된 이유는 '연속형 페이지 어텐션(Contiguous PagedAttention)'과 '파이프라인 페이지 어텐션(Pipelined PagedAttention)'이라는 기술 덕분이다. 이 기술은 메모리를 더 효율적으로 활용하고 연산 작업을 동시에 여러 개 처리할 수 있어 이전에 부족했던 '어텐션 커널(Attention Kernel)'의 성능을 크게 개선했다.
네이버와 여러 스타트업이 함께 개발한 소프트웨어가 이 성능 개선에 중요한 역할을 했다는 평가도 나왔다. 스퀴즈비츠는 이 결과가 독립적으로 이뤄진 테스트임을 강조하며 '가우디2'는 가격 대비 성능 면에서 주목받는 AI 칩임을 지적했다
하정우 네이버 센터장은 페이스북을 통해 "'가우디'가 쓸 만지 의문을 가지시는 분들께 스퀴즈비츠의 실험 결과를 공유한다"며 "적어도 인퍼런스에서 경쟁력은 확실히 보여 경기 침체가 우려되는 상황에서 가성비 좋은 '가우디'가 꽤 괜찮다"고 밝혔다.
이같은 하 센터장의 발언은 그래픽처리장치(GPU) 시장을 사실상 독점해온 엔비디아에 대한 대안 마련에 네이버가 적극적으로 나서고 있음을 시사한다. 인텔과 스퀴즈비츠가 진행한 최적화 연구 과정에 네이버가 적극 관여해 거대언어모델(LLM) 서비스 요구사항과 평가 방법을 전달한 점도 주목받고 있다.
네이버와 인텔의 협업은 지난해 4월부터 본격화됐다. 엔비디아 칩의 독주로 인한 가격 폭등과 칩 공급 불안이 대두되면서 LLM 학습과 추론에 필요한 인프라를 안정적으로 마련해야 한다는 요구가 커진 것이다.
이에 인텔은 가우디 칩을 개발·공급하고 네이버는 대학·스타트업과 함께 이를 활용한 소프트웨어 생태계 조성에 주력하며 새로운 AI 가속기 대안을 구축하고 있다. 이번 '가우디2'가 엔비디아 'A100'을 앞서는 성능을 입증함으로써 '가성비 AI 칩 시대'가 열릴 것이라는 기대가 업계에서는 한층 높아졌다.
가우디 기반 소프트웨어는 오픈소스를 지향한다는 점이 특징이다. 네이버와 인텔은 스타트업, 대학 등 다양한 파트너와 협력해 오픈소스 플랫폼을 개발하고 있으며 보다 많은 개발자와 기업이 AI 반도체 생태계에 참여할 수 있도록 지원하고 있다.
관련기사
- 네이버, 인텔과 AI 동맹…한국에 공동연구소 만든다2024.04.10
- 인텔 "가우디3 AI 가속기, 오는 3분기 출시"2024.04.10
- 인텔 가우디3 AI 가속기, 신규 고객사로 IBM 확보2024.08.30
- 인텔 "가우디3, 납기·비용·성능 모두 뛰어난 엔비디아 대체재"2024.06.04
이와 더불어 지난해 팻 겔싱어 인텔 대표의 사임 소식이 전해졌지만 양사 협력에는 큰 영향을 미치지 않은 것으로 관측된다. 또 '가우디3'로의 협력 확대 가능성도 열려있어 LLM 시장에서 네이버·인텔 연합이 지속적으로 경쟁력을 확보할 수 있다는 업계 전망도 나온다.
겔싱어 대표의 사임과 '가우디 3' 협력 가능성에 대한 기자의 질문에 네이버 관계자는 "현재까지 협업이 차질 없이 진행되고 있다"며 "다만 '가우디 3'로의 협력 확장은 아직 구체적으로 확정된 바 없다"고 밝혔다.
