샘 올트먼 "PC 메모리 5%만 활용" 발언, 소비자도 동의할까

글로벌 빅테크의 AI 인프라 투자로 메모리 반도체 공급 부족과 가격 상승이 일어나는 가운데, 샘 올트먼 오픈AI 최고경영자(CEO)가 "개인용 PC에 메모리를 장착하는 것이 끔찍한 일"이라고 평가해 주목받고 있다.

메모리 공급이 제한된 현재 환경에서 개인 PC마다 메모리를 보유하는 것보다 클라우드에서 여러 사람이 나눠 쓰는 것이 자원 활용 측면에서 효율적이라는 주장이다.

그러나 메모리 가격 상승으로 PC 업그레이드와 교체를 망설이는 소비자에게는 선뜻 동의하기 어려운 이야기다. 일론 머스크 테슬라 CEO도 "사람들도 자신의 D램을 가질 자격이 있다"고 반박했다.

샘 올트먼 "PC 메모리, 5%만 활용된다" 주장

샘 올트먼 오픈AI CEO는 유튜브 팟캐스트 '치키핀트앤스트라이프'에 출연해 "전 세계적으로 한정된 D램 공급량 중 상당부분이 PC에 꽂힌 채 5%의 시간에만 활용되는 것은 끔찍한 일"이라고 밝혔다.

그는 또 "메모리 공급이 제한된 환경을 해결하려면 클라우드를 통해 이를 최대한 활용해야 한다"고 덧붙였다.

다수의 사용자가 각자 PC에 메모리를 장착하는 것보다 클라우드 데이터센터에 메모리를 집중하고, 이를 여러 사람이 함께 이용해야 전체적인 자원 활용률을 높일 수 있다는 논리다.

다만 그가 언급한 '5%'가 메모리 사용 시간인지, 장착된 메모리 용량 대비 실제 사용량인지, 혹은 메모리 대역폭 활용률을 의미하는지는 명확하지 않다. 이를 뒷받침하는 구체적인 측정 자료도 제시되지 않았다.

클라우드, PC 대비 반드시 효율적인가

대형 서버에 CPU와 메모리, GPU를 모으고 AI 작업을 요청하는 이용자에게 효율적으로 나눠주면 전체적인 운영 효율을 높일 수 있다. 특히 한 AI 모델을 여러 이용자에게 제공하는 추론 서비스에서는 클라우드 방식의 장점이 두드러진다.

그러나 클라우드라 해서 마냥 효율적인 것은 아니다. 트래픽 급증에 대비한 여유 용량이 필요하고, 장애 대응과 서비스 수준 협약(SLA)을 위해 항상 일정 수준의 자원을 확보해야 한다.

클라우드 기반 AI가 모든 환경에 효율적인 것도 아니다. 비용과 개인정보·기업 비밀 유출을 우려해 클라우드 대신 PC에서 AI를 직접 구동하는 온디바이스 AI와 로컬 AI에도 대용량 메모리가 필요하다.

개인 PC의 메모리가 어떤 기준으로 비효율적이라고 판단하는 지도 불분명하다. 예를 들어 32GB 메모리를 장착한 PC라도 윈도 부팅 직후에는 8GB 정도만 사용하다가 여러 작업을 동시에 실행하면 메모리 사용량이 늘어날 수 있다.

AI 인프라 경쟁의 부담은 소비자에게

오픈AI 역시 AI 인프라 구축을 위해 메모리 반도체를 대량으로 공급받는다. 엔비디아와 최소 10기가와트(GW) 규모 AI 시스템 구축을 추진중이며 AMD와도 최대 6GW 규모의 GPU 공급·배치 계약을 체결했다.

대량 공급 계약으로 단가를 조정하고 외부 투자를 활용할 수 있는 글로벌 기업과 달리 일반 소비자가 현재 벌어지는 메모리 공급 부족에 대응할 수 있는 방법은 극히 제한적이다. 구매를 미루거나 필요한 메모리 용량을 줄이는 것 이외에는 방법이 없다.

샘 올트먼의 주장은 PC 업그레이드를 미루거나, 더 큰 용량의 SSD를 구매하는 데 부담을 느끼는 소비자, 출하량 감소와 수요 위축을 걱정하는 PC 제조사와 관련 업계가 쉽게 받아 들일 수 있는 논리는 아니다.

일론 머스크도 '메모리 가질 권리' 옹호

PC에 메모리를 얼마나 설치하고 어떻게 활용할 지는 전적으로 개인이 결정할 문제다. 주로 사무작업만 수행하는 사람이라면 16GB가 충분할 수 있지만 콘텐츠 제작에는 32GB가 적합할 수 있다.

또 클라우드 비용을 줄이고 자체 AI 모델을 운용하려는 개발자와 기업은 최대 128GB 통합 메모리를 이용해 로컬 AI 연산을 수행하는 엔비디아 DGX 스파크/RTX 스파크에 많은 관심을 보인다. 샘 올트먼의 주장대로라면 이 제품 역시 '비효율적인 제품'이다.

관련기사