"팔리든, 합치든, 함께하든"... AI 반도체, 세 갈래 생존전 시작됐다

엔비디아 의존 심화 속 스타트업들, 대기업 인수·컨소시엄·고객공동설계로 생존 전략 다변화

AI 반도체 시장이 대전환기에 들어섰다. AI 모델의 단계가 ‘훈련(Training)’에서 ‘추론(Inference)’으로 이동하며, 글로벌 빅테크들은 GPU(그래픽처리장치) 이후 시대를 준비하고 있는 것이다. 이에 국내외 AI반도체 스타트업은 인수, 컨소시엄, 고객동맹형으로 생존을 모색하고 있다.

7일 반도체 업계에 따르면 최근 AI 반도체 산업의 무게중심이 훈련용 칩에서 추론용 칩으로 이동하고 있다. 챗GPT를 비롯한 생성형 AI의 확산으로, 서비스 제공 기업들이 대규모 학습보다 실시간 응답 효율성을 높이는 데 집중하면서다.

리벨리온 리벨쿼드 칩과 카드.(사진=리벨리온)

추론형 칩이 주목받는 이유로 전력 효율과 운영비 절감 효과가 꼽힌다. 대모델 학습이 일회성 작업이라면, 추론은 상시 반복되는 과정이어서 누적 전력 소모가 훨씬 크기 때문이다.

특히 글로벌 데이터센터들이 에너지 절감과 처리 속도 향상을 동시에 요구하면서, GPU 기반 범용 구조 대신 특정 워크로드에 최적화된 전용 ASIC(맞춤형 반도체) 수요가 급증하고 있다.

이 같은 시장 변화는 AI 반도체 스타트업들의 생존 전략에도 직접적인 영향을 미치고 있다. 시장 전체가 여전히 GPU 중심 구조에 의존하고 있는 상황에서 스타트업들은 독자 노선만으로는 수익성을 확보하기 어렵다고 판단하고 있는 것이다. 이에 따라 일부는 대기업 인수에 나서고, 일부는 컨소시엄이나 고객사 공동 설계 방식으로 기술을 시장 안으로 편입시키는 전략을 택하고 있다. 결국 추론 효율 경쟁이 AI칩 산업 전반의 재편으로 이어지고 있는 셈이다.

거대 기업 품으로… ‘인수 전쟁’ 치열

AI 반도체 스타트업들이 가장 많이 택하는 생존 방식은 대기업 인수다. 유망한 스타트업이 빅테크의 생태계에 편입돼 기술·인력·시간을 동시에 거래하는 형태다.

대표적인 예시가 인텔의 삼바노바 인수 추진이다. 삼바노바는 누적 투자액이 10억 달러를 넘겼지만, 후속 자금 유치가 막히며 매각을 검토하고 있다. AI칩 개발은 테이프아웃 이후 양산까지 3년 이상 걸리고 수천억 원이 투입되는 구조라 독자 생존이 어려운 기업들이 매각 협상에 나서는 사례가 늘고 있다.

백준호 퓨리오사AI 대표.(사진=퓨리오사AI

빅테크에서도 자체 칩 개발을 위해 인수를 시도 중이다. 엔비디아 의존도를 낮추고, 자체 칩 생태계를 구축하기 위함이다. 올해 상반기 있었던 메타의 퓨리오사AI 인수 시도 역시 같은 맥락이다. 메타는 퓨리오사AI 인수에는 실패했으나, 현재 미국 리보스 인수를 추진하고 있다.

소프트뱅크의 경우 앰페어를 65억달러(약 9조4천600억원)에 인수했으며, AMD는 AI 소프트웨어 최적화 스타트업 브리움을 흡수했다.

AI 반도체 업계 관계자는 “AI 반도체 스타트업의 인수는 어느 회사나 투자자들이 기대하는 어떤 성과를 내야하는 냉엄한 현실을 보여주는 예시”라면서도 “한편으로는 AI 반도체가 이전에 없던 분야이기 때문에, 어려운 도전에 대해서 똘똘 뭉쳐 있는 스타트업 팀이 성과를 더 내기 좋은 구조다. 대기업도 그래서 스타트업 인수로 눈을 돌리는 것 같다”고 설명했다.

협력으로 버틴다… 대기업 연합형 생존 모델 확산

두 번째 생존 방식은 대기업 컨소시엄이다. 대기업에 종속되는 인수형과 달리 AI 반도체 스타트업이 대기업과 손잡고 운영을 공유하는 구조다.

유영상 SK텔레콤 前 CEO(왼쪽)와 박성현 리벨리온 대표

해당 방식의 대표적인 예시는 국내 AI 반도체 스타트업 리벨리온이다. 리벨리온은 SK텔레콤, SK하이닉스 등 SK그릅과 함께 국산 AI반도체 개발을 위한 전략적 컨소시엄을 꾸려 상용화에 나섰다. 리벨리온은 이 외에도 KT, 네이버 등 국내 대기업과 협력해 시장을 공략하고 있다. 지난해 투자를 받기 시작한 아람코도 대기업 협력 모델 중 하나로 볼 수 있다.

또한 반도체의 전설 짐 켈러가 있는 텐스토렌트와 LG AI연구원, 삼성전자 간 협력처럼 RISC-V(리스크파이브) 기반 IP와 대형 언어모델(LLM) 최적화를 함께 개발하는 형태도 나타나고 있다.

업계에서는 이러한 대기업 연합형 모델이 스타트업의 자금난을 완화하고 공급망 리스크를 줄이는 현실적 대안으로 보고 있다. 다만 협력 구조가 복잡해지는 만큼 스타트업의 장점인 빠른 의사결정이 다소 늦어진다는 점이 한계로 지목된다.

고객과 함께 만든다… 맞춤형 공동 설계 확산

세 번째 방식은 고객동맹 모델이다. 칩 기업이 클라우드·AI 서비스 사업자 등 실제 수요자와 공동으로 반도체를 설계·최적화하는 형태다.

미국 세레브라스시스템즈는 UAE 국부펀드 계열 G42와 협력해 AI 데이터센터 ‘콘도르 갤럭시’를 구축했다. 양사는 초대형 인공지능 모델 ‘자이스(Jais)’의 추론 효율을 높이기 위해하드웨어와 소프트웨어를 함께 최적화하는 공동 개발을 진행하고 있다.

초대형 모델 자이스의 추론 효율을 높이기 위한 하드웨어–소프트웨어 공동 최적화를 진행 중이다.

그록은 생성형 AI 서비스 기업인 퍼플렉시티AI, 캐릭터 AI등과 협력해 응용프로그램인터페이스(API) 기반의 추론 성능을 개선하는 서비스형 추론 모델을 운영하고 있다.

그래프코어는 스태빌리티AI, 마이크로소프트, 델과 협력해 이미지 생성 모델에 최적화된 지능처리장치(IPU) 공동 설계를 추진하고 있다.

한 AI반도체 업계 관계자는 “현재 AI반도체 기업들의 생존 방식은 전략이기도 하지만 산업 구조가 강제한 결과”라며 “칩 개발에만 수천억원의 자금이 필요하고, GPU 중심의 생태계가 이어지고 있기 때문에 독자적으로 살아남기 힘든 산업 구조다”라고 말했다.