일론 머스크 "10만 GPU 클러스터 구축"…그록-3 개발 '올인'

일론 머스크 테슬라·엑스AI(xAI) 최고경영자(CEO)가 올해 12월 세계에서 가장 강력한 성능을 가진 인공지능(AI) 모델을 출시하겠다고 예고했다. 이를 위해 그래픽처리장치(GPU) 10만개로 작동하는 슈퍼 컴퓨터 클러스터 운영을 시작했다.

일론 머스크 CEO는 22일(현지시간) 소셜미디어 엑스(X·옛 트위터)에 "xAI, X, 엔비디아 등의 도움으로 멤피스 슈퍼클러스터가 오전 4시 20분부터 AI 모델 훈련을 시작했다"고 자축했다. 머스크는 xAI의 AI 모델 '그록'도 이 클러스터에서 훈련 중이라는 점도 알렸다.

이어 "단일 원격 직접 메모리 액세스(RDMA) 프로토콜에 약 10만 개의 수냉식 H100 클러스터를 탑재해 강력한 AI 훈련 클러스터를 만들었다"고 강조했다.

이는 데이터센터의 클러스터 개수로 비교하면 압도적인 수치다. 미국 아르곤 국립연구소의 '오로라'가 6만 개의 인텔 GPU를 보유중이다. 메타는 약 2만4천 개, 마이크로소프트는 약 1만4천400개 클러스트를 각각 구축한 정도다.

일론 머스크는 "새로운 슈퍼클러스터는 올해 12월까지 모든 측면에서 우수한 AI를 만드는 데 큰 이점이 될 것"이라고 덧붙였다. xAI는 지난 16일 일론 머스크가 멤피스 데이터센터 내부를 둘러보는 사진을 올리기도 했다.

일론 머스크 xAI CEO가 멤피스 데이터센터 내부를 둘러보고 있다(사진=xAI X)

xAI가 지난해 12월 내놓은 그록은 올해 3월 1.5버전이 나왔다. 현재 그록-2와 그록-3을 훈련 중이다. 단순 언어모델 기반 챗봇이 아닌 멀티모달 모델 형태다. 이 회사는 차기 그록 모델이 뉴스 요약이나 그래프 제작 등 다양한 정보를 처리할 수 있을 것으로 기대하고 있다. 테슬라와의 시너지를 통해 자율주행 기록과 운전자 관련 데이터를 모으고 있다는 것도 xAI의 최대 장점이다.

다만 서비스 접근성은 아직 떨어지는 건 고민거리다. 그록은 X 내부에서만 이용할 수 있으며 유료 구독형 서비스인 X 프리미엄을 이용해야 사용할 수 있어서다. 한국 기준 X 프리미엄은 월간 최소 8달러(약 1만2천원)이상의 가격을 내야 한다.