래블업이 제시한 AI 모델·인프라 통합 운영 전략은

29일 서울 코엑스서 연계 컨퍼런스 '랩업 콘프 6' 개최

래블업이 인공지능(AI) 모델과 반도체·클라우드 인프라를 결합하는 통합 운영 전략을 공개한다. AI 서비스 개발부터 추론·운영·보안까지 한 환경에서 관리할 수 있는 생태계 구축 방향을 제시할 계획이다.

래블업은 오는 29일 서울 삼성동 코엑스에서 연례 기술 컨퍼런스 '랩업 콘프 6'를 개최한다고 9일 밝혔다. 올해 행사는 '메이크 AI 컴포저블' 주제로 열린다.

래블업은 행사에서 거대언어모델(LLM) 관제·정산을 담당하는 컨트롤 플레인 '컨티뉴엄 라우터'와 통합 관리 계층인 '컨티뉴엄 허브'를 선보인다. 여러 AI 모델로 요청을 분배하고 토큰 사용량을 통합 관리하는 기술이다.

래블업은 오는 29일 서울 삼성동 코엑스에서 '랩업 콘프 6'를 개최한다. (사진=래블업)

두 제품은 래블업이 제시한 '토큰팩토리' 개념을 구현하는 핵심 기술이다. 기업이 서비스 목적과 비용에 따라 다양한 모델과 AI 가속기를 선택하면서도 하나의 환경에서 운영할 수 있도록 지원한다.

래블업은 AI 산업 중심이 대규모 모델 학습용 그래픽처리장치(GPU) 구축에서 실제 서비스 운영으로 이동하고 있다고 봤다. 이에 따라 추론 성능과 비용을 최적화하고 여러 종류의 AI 가속기와 멀티클라우드 환경을 통합 관리하는 역량이 중요해졌다는 설명이다.

신정규 래블업 대표는 'AI 산업 시대의 엔드투엔드에 대하여'를 주제로 기조연설에 나선다. 인프라 구축부터 모델 학습과 추론·서비스 운영까지 전 과정을 연결하는 엔드투엔드 AI 플랫폼의 필요성과 사업 방향을 발표할 예정이다.

이날 AI 추론 과정에서 발생하는 병목 현상과 인프라 효율화 방안을 논의하는 패널 토론도 열린다. 김준기 래블업 최고기술책임자(CTO)와 노정석 비팩토리 대표, 김태호 노타 CTO, 이진원 하이퍼엑셀 CTO, 이활석 업스테이지 CTO가 자리한다.

행사에서는 AI 인프라와 추론·서빙, AI 에이전트, 플랫폼 엔지니어링, 보안, 데이터 파이프라인, 피지컬 AI를 다루는 발표가 이어진다. 엔비디아와 배스트데이터, kt클라우드, 퓨리오사AI, 삼성웰스토, 리얼월드, 에임인텔리전스, 한국과학기술원(KAIST) 등도 참여해 산업 현장 AI 구축 사례를 공유한다.

신 대표는 "다양한 모델과 인프라를 어떻게 연결하고 생성되는 토큰을 얼마나 효율적으로 관리하느냐가 중요한 경쟁력이 되고 있다"며 "이번 콘퍼런스를 통해 '메이크 AI 컴포저블'과 '토큰팩토리'가 실제 AI 운영 환경에서 어떻게 구현되는지 알릴 것"이라고 강조했다.