구글 "대만과 어깨 나란히"…AI 인프라 협력, 발주에서 공동설계로

바흐다트 CTO '세미콘 타이완' 참석해 "TPU 학습·추론 분리는 2년 전 결정...다음 전용칩 후보는 CPU"

구글이 대만 공급망과의 관계를 단순 발주·납품을 넘어 칩 설계 단계부터 함께 만드는 '공동 설계' 체제로 바꾸고 있다. 아민 바흐다트 구글 최고기술책임자(CTO) 겸 인공지능(AI) 인프라 수석부사장은 양측의 협력 방식을 "어깨를 나란히 하고(shoulder to shoulder)"라는 한 마디로 요약했다.

6일 대만 공상시보에 따르면 바흐다트 CTO는 지난 2일 대만에서 열린 '세미콘 타이완 2026' 마스터 포럼 및 글로벌 생태계 서밋에 참석해 강연한 뒤, 대만 언론 인터뷰에 처음으로 응했다. 그는 구글 텐서처리장치(TPU)와 AI 하드웨어 전략의 핵심 설계자로 꼽히는 인물이다. 15년간 구글 AI 인프라 개발에 참여하고 이를 주도해 왔으며, 지난해 말 CTO로 승진해 순다르 피차이 구글 최고경영자(CEO)에게 직접 보고한다.

브로드컴을 통해 개발 및 양산되는 구글의 7세대 TPU 아이언우드. (사진=구글)

이번 방문은 알파벳의 미디어텍 지분 투자와 맞물리며 시장의 주목을 받았다. 업계에서는 그가 행사 전 대만 공급망을 비공개로 방문해 TPU 서버 물량을 논의한 것으로 본다. 다만 바흐다트 CTO는 구체적인 수주나 협력 내용에 대해서는 공개하지 않았다.

미디어텍은 최근 39억달러 규모의 해외 전환사채(CB)를 발행했다. 이 가운데 엔비디아가 35억달러를 인수했고, 알파벳은 남은 물량 인수에 참여했다. 정확한 투자 금액은 공개되지 않았다.

"이미 구매·파트너의 문제가 아니다"…랙 설계까지 함께

바흐다트 CTO가 인터뷰에서 거듭 강조한 것은 협력 방식 자체가 근본적으로 달라졌다는 점이다. 바흐다트 CTO는 "이건 이미 구매와 파트너의 문제가 아니다"라며 구글과 대만 업체들이 이미 깊은 수준의 공동 설계 단계에 들어섰고, 이런 협력이 매달·매 분기·매년 가속되고 있다고 설명했다. 이어 "대만 파트너와 깊이 있는 공동 설계를 하지 않았다면 오늘날과 같은 인프라와 컴퓨팅 플랫폼을 만들어내는 것은 불가능했을 것"이라고 말했다.

그는 구글이 현재 여러 대만 협력사와 차세대 제품을 두고 논의를 진행 중이며, 협력 범위가 랙 레벨(rack level)의 엔드투엔드 아키텍처 설계로까지 확장됐다고 전했다. 양산 설계와 신뢰성 향상 방식 등 대만 공급망의 엔지니어링 실행력이 인상적이었다는 평가도 내놨다.

구글 대만 팀은 구글 AI 하드웨어 개발의 중요한 역할을 맡고 있다. 바흐다트 CTO는 구글의 설계·제조 작업 상당수가 대만에서 이뤄지며, TSMC 생산라인에서 칩이 나오면 대만 팀이 가장 먼저 테스트를 수행하는 경우가 많다고 설명했다. 24시간 가까이 구글과 협력사가 어깨를 맞대고 칩의 정상 작동 여부를 확인한 뒤 최대한 빨리 소프트웨어 개발팀에 넘긴다는 것이다.

대만은 구글이 미국 외 지역에 둔 최대 하드웨어 연구개발(R&D) 거점이다. 바흐다트 CTO는 "타이베이 스린 AI 인프라 R&D 센터의 사무 공간을 60% 확대하고 있으며, 팀 규모도 계속 커질 것"이라고 말했다.

TPU 8t·8i 분리는 2년 전 결정…"다음 전용화는 CPU"

구글은 올해 4월 '클라우드 넥스트' 행사에서 8세대 TPU를 처음으로 두 개의 독립된 칩으로 나눴다. 대규모 학습에 특화된 TPU 8t와 고동시성 추론을 겨냥한 TPU 8i다. 학습용·추론용 칩의 '분가'가 맞춤형 칩의 세분화를 예고하는 것이냐는 질문에 그는 이런 흐름이 "어느 정도는 불가피하다"고 강조했다.

그러면서 "구글은 약 2년 전 이미 학습과 추론 두 워크로드의 수요 규모가 각각 전용 칩을 만들 만큼 커졌다고 판단해 분리를 결정했다"고 말했다. 

바흐다트 CTO는 다음 전용칩 후보로는 중앙처리장치(CPU)를 지목했다. AI 에이전트가 동작할 때 대량의 데이터 이동과 작업 스케줄링이 필요해지면서 저지연·고빈도 통신 능력이 중요해지고 있다는 이유에서다.

칩 전용화와 함께 바흐다트 CTO가 제시한 다음 경쟁 축은 데이터 이동 최소화다. 바흐다트 CTO는 "연산은 싸다. 비싼 것은 데이터를 옮기는 일이다"라며 "데이터를 가능한 한 연산 유닛 가까이 두고 칩과 서버, 시스템 사이를 오가는 데이터 이동이 유발하는 전력 소모와 지연을 줄이는 것이 관건"이라고 역설했다.

구글이 최근 몇 년간 '풀스택 공동 설계'를 앞세운 배경도 여기에 있다. 칩과 랙, 데이터센터의 전력·네트워크까지 아우르며 구글은 데이터센터를 서버를 담는 건물이 아니라 한 대의 거대한 컴퓨터로 본다. 바흐다트 CTO는 "우리는 데이터센터가 곧 컴퓨터라고 말한다"고 밝혔다.