KT-KT클라우드-삼성전자, AI 풀스택 완성 맞손

AI 서비스 개발 위한 고성능, 고효율 클라우드 AI 인프라 환경 구축

KT가 KT클라우드, 삼성전자와 함께 한국형 AI 풀스택 구현을 위한 차세대 메모리 기술협력 업무협약을 체결했다고 29일 밝혔다.

3사는 협약에 따라 삼성전자의 PIM과 PNM 환경에서 KT 초거대 AI ‘믿음’을 통한 ▲초거대 AI 모델의 메모리 영향성 분석 ▲AI 반도체 플랫폼 연구 ▲차세대 클라우드 솔루션 등 AI 풀스택 역량 강화를 위해 협력할 예정이다.

한국형 AI 풀스택이란 국산 AI 반도체와 소프트웨어, 클라우드 등의 인프라부터 AI 응용 서비스까지 모두 아우르는 제품과 서비스를 뜻한다.

또 PIM이란 저장 작업을 하는 메모리 반도체에 연산 작업을 하는 프로세서 기능을 더한 지능형 반도체다. 메모리 안에서 간단한 연산을 수행할 수 있어 데이터 이동 횟수가 줄어들고 병목 현상이 줄어든다는 장점이 있다. PNM이란 메모리 가까운 위치에 연산 기능을 배치해 CPU와의 데이터 전송 시간을 최소화하는 기술이다.

왼쪽부터 KT 송재호 부사장, 삼성전자 김재준 부사장, KT클라우드 윤동식 사장, 삼성전자 심은수 부사장이

AI 서비스를 개발하는 과정에서 기존의 AI 인프라를 사용할 경우, 연산 속도와 전력 소비 등에서 비효율이 발생하는 문제가 있었다. KT와 KT클라우드는 이를 해결하기 위해 AI 연산에 최적화된 AI 반도체인 NPU 를 반도체 설계 기업인 리벨리온과 함께 지난 5월 KT클라우드에서 상용화했다.

아울러 한국형 AI 풀스택 완성을 위해 KT의 초거대 AI 모델 ‘믿음’을 활용해 삼성전자의 PIM, PNM 인프라 실증 연구와 기술 협력에 나선다. AI 서비스를 사용할 때 답변이 뚝뚝 끊기는 것과 같은 메모리 병목 현상을 해결하기 위해 삼성전자의 스마트 인프라 기술을 도입해 한국형 AI 풀스택을 한층 더 강화한다는 계획이다.

송재호 KT AI/DX융합사업부문장은 “초거대 AI 개발을 위한 삼성전자와의 차세대 메모리 기술 개발 협력을 통해 경쟁력 있는 인프라 기반을 구축하겠다”며 “이렇게 완성한 AI 풀스택으로 산업 전반에서 AI 생태계를 확장하고 대한민국 인공지능 경쟁력 강화에 기여할 것”이라고 말했다.

윤동식 KT클라우드 사장은 “HAC, NPU 등 초거대 AI 인프라와 삼성전자의 차세대 반도체 기술, KT의 AI 솔루션 및 기술 공동 협력으로 AI 반도체 고도화를 지속 추진하고 한국형 AI 풀스택을 완성해 나갈 것”이라고 말했다.

김재준 삼성전자 메모리사업부 전략마케팅실장은 “KT, KT클라우드와 기술 협력으로 대규모 데이터 처리가 필요한 초거대 AI 모델의 메모리 병목현상을 해소해 나갈 것”이라며 “클라우드와 AI 기업의 시장 니즈를 반영한 PIM, PNM 등 스마트 기술을 통해 차세대 메모리 기술을 확대해 나가겠다”고 밝혔다.