국내 팹리스 스타트업 파네시아는 이달 15일부터 미국 캘리포니아주에서 개최되고 있는 세계 최대규모 데이터센터 관련 행사 'OCP 글로벌 서밋'에서 'CXL 3.1 스위치가 포함된 AI 클러스터'를 세계 최초로 공개했다고 18일 밝혔다.
OCP 글로벌 서밋은 기존 데이터센터의 비용 효율적인 문제를 해결하는 방법 등 이상적인 데이터센터 인프라 구축 방안에 대한 논의가 이루어지는 행사다. 올해에는 다수의 글로벌 기업을 포함해 7천명 이상의 관계자가 모여 AI향 솔루션에 대해 중점적으로 논의를 진행했다.
파네시아는 이번 행사에서 차세대 인터페이스 기술인 CXL(컴퓨트익스프레스링크)을 활용해 AI 데이터센터의 비용 효율을 획기적으로 개선하는 솔루션인 'CXL 탑재 AI 클러스터'를 선보여 많은 관심을 받았다.
CXL은 고성능 서버에서 CPU(중앙처리장치)와 함께 사용되는 GPU 가속기, D램, 저장장치 등을 효율적으로 활용하기 위한 차세대 인터페이스다.
파네시아 관계자는 "AI가 메인 토픽으로 다루어진 올해 행사에서 파네시아는 AI 데이터센터에 CXL 기술을 실용적으로 도입하기위한 청사진을 제시함으로써 많은 글로벌 기업들의 관심을 받고, 고객사 및 협업사 생태계를 확장할 수 있었다”고 말했다.
CXL 탑재 AI 클러스터는 파네시아의 주요 제품인 CXL 3.1 스위치와 CXL 3.1 IP를 활용해 구축한 프레임워크다. 대규모 데이터를 저장하는 CXL-메모리 노드와 기계학습 연산을 빠른 속도로 처리하는 CXL-GPU 노드가 CXL 3.1 스위치를 통해 연결되는 구조다.
메모리를 확장하고 싶다면 오직 메모리와 메모리 확장을 위한 CXL 장치들만 추가로 장착해주면 되며, 따라서, 기타 서버 부품 구매에 불필요한 지출을 하지 않아도 돼 메모리 확장 비용을 절감할 수 있다.
또한 각 CXL 장치에는 파네시아의 초고속 CXL IP가 내재돼 메모리 관리 동작을 하드웨어로 가속해준다. 이를 통해 사용자들은 빠른 성능을 누릴 수 있다.
뿐만 아니라 CXL 3.1 표준의 고확장성 관련 기능 및 모든 타입의 CXL 장치에 대한 연결을 지원하는 파네시아의 CXL 스위치 덕분에, 수 백대 이상의 다양한 장치를 하나의 시스템으로 연결하는 실용적인 데이터센터 수준의 메모리 확장이 가능하다는 것도 주요 장점이다. 해당 CXL 3.1 스위치는 내년 하반기에 고객사들에게 제공될 예정이다.
관련기사
- 파네시아, 세계 최초 'CXL 3.1 스위치 활용 AI 클러스터' 공개2024.09.27
- 파네시아 "내년 하반기 CXL 3.1 스위치 칩 고객사에 제공"2024.07.23
- 파네시아, 美 CXL DevCon 참가…상호 운용성 검증 시연2024.04.26
- 파네시아, 글로벌 서버업체 HPE와 'CXL' 협업 논의2024.01.26
파네시아는 이번 전시회 기간 동안 본인들의 AI 클러스터 상에서 LLM(대규모 언어 모델) 기반 최신 응용인 RAG(검색 증강 생성)를 가속하는 데모를 선보였다. 관계자의 설명에 따르면, 파네시아의 CXL 탑재 AI 클러스터를 활용할 경우, 기존의 스토리지 혹은 RDMA(네트워크 기술의 일종, Remote Direct Memory Access) 기반 시스템 대비 추론 지연시간을 약 6배 이상 단축시킬 수 있다.
파네시아 관계자는 "서버를 제공하는 다수의 기업들이 내년 하반기 고객사에게 제공예정인 우리의 CXL 3.1 스위치 칩을 본인들의 서버 제품에도 도입하길 희망한다는 의사를 강력히 밝혔다”며 "엔비디아, AMD 등 GPU를 개발하는 기업에서도 많이 방문했는데, 이들은 파네시아의 CXL 3.1 IP를 활용해 GPU 장치에 CXL을 활성화할 수 있다는 사실에 많은 관심을 보였다"고 강조했다.