'AI 전용 인프라' 전면에 내건 아이티센씨티에스…엔비디아 'H200' 무장

초고속·초저지연 구현한 'AI 이노베이션 데이터센터' 개소…AI 모델 학습 속도 60%↑

아이티센씨티에스가 고성능 인공지능(AI) 인프라를 구축하며 그룹 역량 강화와 대고객 서비스 품질 향상에 나선다.

아이티센씨티에스 'AI 이노베이션 데이터센터'를 공식 개소했다고 16일 밝혔다.

AI 센터는 엔비디아의 최신 H200 GPU와 시스코의 400G 이상 고성능 네트워크 장비를 기반으로 초고속·초저지연의 AI 전용 인프라를 구현한 것이 핵심이다.

아이티센씨티에스가 'AI 이노베이션 데이터센터'를 개소했다. (사진=아이티센씨티에스)

아이티센씨티에스는 이번 AI 센터에 CPU를 거치지 않고 GPU 간 직접 메모리 접근을 가능하게 하는 'RoCE' 기술을 도입했다. 이를 통해 AI 워크로드 수행 시 발생하는 네트워크 병목을 최소화하고 대규모 분산 훈련과 실시간 추론 환경에서 최소 40% 이상의 네트워크 성능 향상을 이뤄냈다.

GPU 간 통신 효율도 비약적으로 개선돼 AI 모델이 수백 테라바이트(TB) 규모의 데이터셋을 지연 없이 처리할 수 있는 기반을 마련했다.

여기에 시스코의 차세대 AI 네트워크 아키텍처인 '넥서스 하이퍼패브릭'을 함께 적용해 GPU 클러스터와 스토리지, 컴퓨팅 노드 간 데이터 흐름을 최적화함으로써 AI 모델 학습 속도는 최대 60% 향상됐고 데이터 전송 지연은 2μs 이하로 단축됐다.

또 수천 개 노드 간 선형 확장이 가능한 네트워크 구조를 구현해 초지능형 AI 인프라 기반을 구성했다.

AI 센터는 데모 센터 형태로 운영되며 AI 기술·인프라를 실증하고 고객 맞춤형 아키텍처를 테스트하는 공간으로 활용된다.

아이티센씨티에스는 이를 통해 아이티센그룹 전반의 AI 역량을 강화할 계획이다. 나아가 공공기관·금융권·제조업 등 데이터 처리 속도가 핵심인 산업군을 대상으로 고도화된 AI 인프라 서비스를 제공함으로써 대고객 서비스 품질 향상도 기대하고 있다.

아이티센씨티에스 관계자는 "시스코의 넥서스 하이퍼패브릭 아키텍처는 RoCE 네트워크 기반 AI 인프라가 느리다는 고정관념을 깨뜨렸다"며 "진정한 AI 성능을 실현할 수 있는 인프라를 제공함으로써 고객에게 실질적인 가치를 전하겠다"고 밝혔다.