AMD "6세대 에픽·라이젠으로 하이브리드 AI 대응"

AMD가 4일 서울 삼성동에서 진행한 '어드밴싱 AI 월드투어 서울 2026' 행사에서 데이터센터부터 워크스테이션, AI PC를 아우르는 포트폴리오와 에이전틱 AI 대응 전략을 제시했다.

CPU, GPU, 메모리, 네트워크, 소프트웨어를 포괄하는 컴퓨팅 환경을 구축하고, 클라우드와 온디바이스를 결합한 하이브리드 AI를 확대한다는 구상이다.

이날 리테시 로힛 파텔 AMD 데이터센터 부문 아태지역 이사는 "지금부터 3년 후 어떤 워크로드가 등장할지는 누구도 정확히 알 수 없다"며 "변화하는 환경에 맞춰 적응할 수 있는 제품을 설계해야 한다"고 말했다.

리테시 로힛 파텔 AMD 데이터센터 부문 아태지역 이사. (사진=지디넷코리아)

이어 "2022년 생성 AI 챗봇이 등장했을 때는 GPU 중심 접근이 주목받았지만 현재 부상하는 에이전틱 AI는 이용자 요청부터 결과 도출과 실행까지 여러 단계에서 CPU와 GPU가 함께 작동하며 네트워크, 스토리지, 메모리, 소프트웨어도 필요하다"고 덧붙였다.

"6세대 에픽, 기존 서버 통합으로 TCO 절감"

AMD는 3분기부터 6세대 에픽(베니스) 프로세서 출하에 들어갔다. 초도 고객사로 메타가 참여했으며 올 4분기부터는 공급을 확대할 예정이다.

6세대 에픽 프로세서를 소개하는 리테시 로힛 파텔 이사. (사진=지디넷코리아)

6세대 에픽 프로세서는 고성능 컴퓨팅과 멀티스레드 처리에 초점을 맞춘 SP7, 성능과 전력 효율의 균형을 고려한 기업용 SP8, HPC 및 AI 학습에 적합한 베니스X, 클라우드 서비스 제공업체(CSP)와 헬리오스 시스템에 적용되는 베라노 등 총 4개 제품군으로 공급된다.

리테시 이사는 "기존 인텔 제온 기반 2소켓 서버 1000대를 에픽 기반 서버 82대로 통합해 서버 운영에 필요한 전력과 공간, 관리 비용을 줄일 수 있다"고 강조했다.

기존 데이터센터의 GPU 연산 역량을 보완할 수 있는 인스팅트 MI350P GPU. (사진=지디넷코리아)

GPU 제품으로는 MI350P도 소개했다. 기존 데이터센터 인프라 완전 교체 대신 PCI 익스프레스 슬롯에 추가해 신규 데이터센터 구축 부담 없이 추론 워크로드를 확대할 수 있다는 점을 내세웠다.

네이버클라우드 "에픽 도입으로 서버 확장 여력 확보"

박영희 네이버클라우드 이사는 "네이버클라우드는 기존 인텔 제온 프로세서의 비용 부담과 코어 수 확충 제한으로 AMD 에픽 프로세서 도입을 검토했고 2023년 1만 3000개를 시작으로 작년에는 약 3만 5000개를 도입했다"고 밝혔다.

네이버클라우드는 2013년부터 에픽 프로세서 도입을 시작했다. (사진=지디넷코리아)

이어 "자체 평가 결과 에픽 기반 플랫폼은 인텔 대비 랙 공간을 약 20~25% 줄이고 이 공간만큼 데이터센터에 추가 서버를 배치해 확장성 측면에서도 이점이 있었다"고 밝혔다.

네이버클라우드는 올 하반기 144코어 에픽 9005 시리즈를 도입 예정이다. (사진=지디넷코리아)

네이버클라우드는 올 하반기 하반기 144코어 에픽 9005 시리즈를 퍼블릭 클라우드에 도입할 계획이다. 박영희 이사는 "AMD 차세대 제품을 조기에 검증할 수 있는 협력 프로그램도 제품 선정과 도입 일정을 앞당기는 데 도움이 됐다"고 덧붙였다.

"AI PC·로컬 AI로 토큰 비용·보안 문제 해결"

AMD는 이날 PC와 워크스테이션에서 AI를 직접 실행하는 로컬 AI 전략도 강조했다. 로컬 AI의 장점으로는 보안과 개인정보 보호, 지연시간 감소, 네트워크 연결이 어려운 환경에서의 활용 가능성을 꼽았다.

알렉세이 나볼로킨 총괄은 ”로컬 AI가 생산성 향상에 조력하고 있다”고 밝혔다. (사진=지디넷코리아)

알렉세이 나볼로킨 AMD 아태지역 총괄은 "AI PC는 일반 사무직이 주당 약 9시간, 출장이 잦은 영업직이 연간 최대 300시간을 절약하고 업무 생산성을 높이는 데 기여하고 있다"고 설명했다

에이전틱 AI 등장으로 토큰 비용 상승이 문제로 대두됐다. (사진=지디넷코리아)

이어 "에이전틱 AI가 확산하면서 토큰 비용이 새로운 부담으로 등장한다. 골드만삭스 전망에 따르면 2030년까지 토큰 소비량이 24배 증가할 수 있으며 데이터센터 전력과 인프라 수요도 함께 증가할 수밖에 없다"고 설명했다.

AMD는 이를 해결하기 위한 방법으로 하이브리드 AI를 제시했다.

알렉세이 나볼로킨 총괄은 "과거 1200억개 매개변수 모델과 비교할 만한 성능을 90억개 매개변수 모델에서도 확보할 수 있다. 이는 노트북이나 워크스테이션에서 충분히 실행할 수 있는 수준"이라고 말했다.

최대 192GB 통합 메모리를 지원하는 라이젠 AI 맥스+ 프로 400(고르곤 헤일로). (사진=지디넷코리아)

그는 "AMD는 라이젠 AI 300·400 시리즈와 라이젠 AI 맥스 기반 PC 및 워크스테이션을 통해 다양한 규모의 모델 실행을 지원한다. 9월 말 출시한 라이젠 AI 맥스+ 프로 400(고르곤 헤일로)은 최대 192GB 통합 메모리로 4비트 양자화 기준 3000억 개 매개변수 규모 모델 실행이 가능하다"고 설명했다.