사이오닉AI, 건물 절반을 데이터센터로 만든 이유는

서울 강남구의 한 건물. 입구에 들어서자 복도 어딘가에서 희미하게 웅웅거리는 진동음이 들려왔다. 의식하지 않으면 지나칠 정도의 미세한 소리였다.

지하 1층부터 지상 7층까지, 총 8개 층으로 이루어진 이 건물은 일반 사무실과 자체 데이터센터가 더해진 통합 AI센터다. 창립 4주년을 앞둔 3년 차 스타트업 사이오닉AI가 빌딩 내부를 직접 개조해 구축한 것이다.

왜 사이오닉AI는 외부 인프라를 활용하는 대신 직접 사내에 데이터센터를 도입하는 선택을 했을까. 3일 사옥에서 만난 고석현 사이오닉AI 대표는 과감한 인프라 투자를 감행한 비전과 숨겨진 기술력을 소개했다.

엔비디아 B300과 HAC 공랭 구조로 이뤄진 데이터센터

안내를 받아 들어간 GPU 센터 내부는 소음을 막고 보안을 강화하기 위해 2단계 격벽을 거쳐 들어가야 했다. 차단문이 열리자 데이터센터 특유의 대규모 장비들이 거세게 돌아가는 소리가 들렸다.

엔비디아(NVIDIA)의 블랙웰 기반 최신 장비인 ‘B300 GPU’ 서버가 탑재된 총 10개의 랙(Rack)이 자리잡고 있었다. 랙당 가격만 수억 원을 호가하는 장비를 스타트업이 어떻게 대량 확보했을까.

고 대표는 오랜 신뢰 관계에 있었다고 답했다. 그는 "네이버 재직 시절부터 엔비디아의 핵심 인프라 코드를 함께 개발하고 글로벌 AI 생태계에서 긴밀히 협력해 온 딥테크 파트너로 활동했다"며 "덕분에 높은 수준의 지원을 받아 구축할 수 있었다"고 설명했다.

냉각 방식은 구조가 공랭식을 선택하되 효율을 극한으로 끌어올리는 '고온 핫아일 컨테인먼트(HAC)' 구조를 적용했다.

서버랙에서 발생하는 고온 열기가 차가운 냉기와 섞이지 않도록 통로를 밀폐·격리해 상부로 뽑아내는 방식이다. 공간이 컴팩트할수록 격리 냉각 효율이 높아지는 원리를 이용해 좁은 사옥 내에서도 기업용으로 충분한 약 0.3메가와트(MW)의 전력 부하를 제어하고 있었다.

건축가 출신 대표'가 설계한 구조 …1년 외부 임대료보다 저렴하게 구축

사이오닉AI 사옥은 건물 전체가 하나의 거대한 ‘AI 유기체’처럼 맞물려 돌아가도록 치밀하게 설계되어 있다. 과거 대학 시절 건축학을 전공했던 고석현 대표가 직접 팔을 걷어붙이고 공간을 레이아웃한 결과물이다.

고 대표는 "마침 대학생 시절 교수님의 전공이 데이터센터라 관련 정보를 많이 배울 수 있었다"며 "이 밖에도 네이버 재직 당시 AI 인프라 활용 등의 경험이 구축에 많은 도움을 줬다"고 설명했다.

그 결과 비용 측면에서도 이례적인 성과를 거뒀다. 그는 "기존 경험을 바탕으로 외부 데이터센터를 1년 임대하는 비용보다 더 저렴하게 내부 데이터센터를 구축할 수 있었다"며 "이미 투자 회수는 1년을 넘어선 수준"이라고 밝혔다.

건물의 구조를 살펴보면 인프라 효율과 직원 소통 동선을 고려한 것이 직관적으로 드러난다. 건물 옥상에는 서버에서 발생하는 막대한 열을 외부로 방출하는 대형 냉각 장비들이 쉴 새 없이 돌아가고 있다.

옥상 아래 층에는 데이터센터실이 자리 잡았으며 데이터센터 바로 아랫단에는 간이 회의실이 연결된다. 이어 아래로 내려오면 임직원이 근무하기 위한 사무실과 휴게게공간이 마련됐다

고 대표는 "데이터센터의 진동이나 환경 요소가 업무에 영향을 줄 수 있어 바로 아래층은 회의실로 마련해 실제 업무공간과 분리하려 했다"고 설명했다.

건물의 하층부는 소통과 개방의 공간으로 이뤄졌다. 1층은 외부 손님을 맞이하는 미팅 룸이자 캐주얼하게 담소를 나눌 수 있는 소규모 바(Bar)로 꾸며져 자유로운 분위기를 자아낸다.

건물 가장 아래인 지하 1층은 전 직원이 모이는 전체 회의(올핸즈 미팅)는 물론, 외부 파트너사 교육, AI 관련 세미나, 대외 방송 송출까지 가능한 대형 무대와 강연장이 마련됐다.

고 대표는 "전사 직원을 대상으로 공지를 하거나 이벤트를 할 떄를 비롯해 AI 교육을 위한 전용 공간이 필요해 지하1층에 넓은 공간을 마련했다"며 "사내에 전용공간이 마련된 만큼 민감한 정보 등도 안전하게 공유할 수 있는 장점이 있다"고 설명했다.

사이오닉AI…인프라부터 서비스까지 직접 구축

사이오닉AI는 2023년 고석현 대표가 창업한 AI 스타트업이다. 고 대표는 2017년 네이버가 인수한 컴퍼니AI 공동창업자 출신으로, 이후 네이버 클로바 SW 플랫폼 리더를 거쳐 하이퍼클로바 개발에 참여했다.

휴게공간엔 직원간 의사소통을 위한 디스플레이가 마련됐다(사진=지디넷코리아)

대형 언어모델을 처음부터 설계하고 학습시킨 경험이 회사의 핵심 자산이다. 공동창업자들 역시 네이버 AI 연구개발 조직 출신으로, 창업 초기부터 모델·인프라·서비스를 모두 자체 역량으로 구축하는 방향을 택했다.

회사가 표방하는 방향은 'AI 풀스택'이다. 데이터센터(인프라)부터 파운데이션 모델, AI 플랫폼, 에이전트 서비스까지 전 구간을 직접 구축한다는 구상이다. 현재 금융·제조·공공·국방 분야 기업을 대상으로 에이전트 개발과 RAG 기반 솔루션을 공급하고 있으며, 대출 심사·계약 검토·시설 정보 조회 등 반복 업무를 지원하는 AI 에이전트가 주력 제품이다.

지난해 12월 네이버클라우드·IBK기업은행·에이티넘인베스트먼트·삼성벤처투자 등으로부터 250억원 규모의 시리즈A 투자를 유치해 누적 투자금 300억원을 넘겼다.

자체 데이터센터를 구축한 것도 이 풀스택 전략의 연장선이다. 외부 클라우드에 의존하지 않고 폐쇄망에서도 운영 가능한 AI 시스템을 고객에게 공급하기 위해서다. 국방, 안보 관련 사업을 진행할 수 있는 배경도 여기에 있다.

그는 "국방이나 금융 쪽 사업은 외부 클라우드를 쓸 수가 없다"며 "완전히 격리된 환경에서 AI를 구현하고 작동하는 모습을 보여주기 위해선 직접 구축한 것이 상당히 중요한 포인트라 할 수 있다"고 설명했다.

제조·국방으로 사업 확장, 국내 넘어 글로벌 목표

향후 사업 확대의 핵심 축은 제조와 국방이다. 제조 분야에서는 경남·경북 산단과 연계해 피지컬 AI 사업을 추진 중이다. 카메라와 장갑 등 모션 캡처 장비로 사람의 동작 데이터를 수집·학습시키는 시스템을 자체 개발하고 있으며, 내년부터 산업부와 연계해 본격 드라이브를 걸 계획이다.

국방 분야에서는 아주대, 합참 연계 고려대 등과 AI 에이니스 사업 협력을 추진 중이다. 피지컬 AI 기술과 국방 기술의 기반이 동일하다는 판단 하에, 시뮬레이션 기반 학습 후 실전에 적용하는 방식을 연구하고 있다.