레드햇이 AI 시대 오픈소스 철학으로 경쟁력 확보한 비결

[인터뷰] 레드햇 프렘 파반 동남아시아·한국(SEAK) 총괄 부사장

"인공지능(AI) 시대에도 우리 오픈소스 철학은 변하지 않습니다. 누구나 어떤 환경에서도 자유롭게 AI를 개발하게 돕는 것이 목표입니다. 고객이 원하는 AI 모델과 액셀러레이터, 클라우드 환경을 효율적으로 구축하기 위해 노력하고 있습니다. AI 산업에서 경쟁보다 협력을 앞세워 안전하고 효율적인 개발 생태계 구축에 힘쓰겠습니다."

레드햇 프렘 파반 동남아시아·한국(SEAK) 총괄 부사장은 최근 지디넷코리아를 만나 오픈소스 기반 AI 비전을 이같이 밝혔다.

레드햇 프렘 파반 동남아시아·한국(SEAK) 총괄 부사장.

파반 부사장은 한국을 포함해 싱가포르, 말레이시아, 태국, 인도네시아, 베트남, 필리핀 시장을 담당하고 있다. 이 외 소규모 시장까지 합치면 총 11개국 사업을 책임지고 있다.

'레드햇 AI' 전략으로 경쟁력 확보…글로벌 파트너십 강화

레드햇은 오픈소스 철학을 바탕으로 레드햇 AI 전략을 추진하고 있다. 가장 대표 사례는 뉴럴매직 인수와 '레드햇 AI 인퍼런스 서버' 개발 등이다. 이를 통해 고객사가 원하는 모델과 가속기, 클라우드 환경에서 자유롭게 AI를 개발할 수 있게 돕는다.

현재 뉴럴매직은 레드햇의 가상거대언어모델(vLLM) 핵심축으로 알려졌다.

현재 뉴럴매직은 레드햇의 가상거대언어모델(vLLM) 핵심축으로 알려졌다. vLLM은 거대언어모델(LLM) 추론 성능을 끌어올리는 오픈소스 추론 엔진 역할을 한다. 메모리 관리와 병렬 처리 기술을 통해 그래픽처리장치(GPU) 자원 효율성을 높이도록 설계됐다. 

레드햇은 이번 인수를 통해 뉴럴매직의 vLLM 최적화 기술을 레드햇 AI 인퍼런스 서버와 '오픈시프트AI' 플랫폼에 통합했다. 이를 통해 고객들이 어떤 환경에서도 안정적이고 비용효율적인 AI 개발·활용이 가능한 환경을 구현한 셈이다.

파반 부사장은 "우리는 단순히 학습된 모델을 그대로 서비스하는 수준을 넘어섰다"며 "연산 구조를 압축하거나 필요 없는 파라미터를 줄여 추론 속도를 높여 자원 소모를 줄이는 기술을 확보하게 된 것"이라고 강조했다. 이어 "vLLM 기반으로 기업 고객이 더 적은 자원으로 더 많은 AI 워크로드를 실행할 수 있도록 지원할 수 있다"고 덧붙였다.

파반 부사장은 레드햇 AI 전략만으로 AI 산업 경쟁력을 확보할 수 없다고 주장했다. 현재 AI 기술을 통한 경쟁보다는 협력이 우선이라는 설명이다. 그는 "AI 산업은 특정 기업의 독점 영역이 아니다"며 "업계 전체가 AI를 안전하고 효율적인 방향으로 키워야 한다"고 강조했다.

레드햇은 글로벌 기업와 AI 연합을 추진하고 있다.

실제 레드햇은 글로벌 기업와 AI 연합을 추진하고 있다. 대표 예시가 오픈소스 프로젝트 'llm-d' 출범이다. 여기에 구글클라우드를 비롯한 IBM리서치, 엔비디아, 코어위브가 초기 멤버로 참여했다. 이후 시스코와 허깅페이스, 인텔, 미스트랄AI가 파트너사로 합류했다. 

llm-d는 vLLM 기반 추론을 분산형으로 확장하는 오픈소스 프로젝트다. 쿠버네티스 기반 인프라를 비롯한 GPU·CPU 자원 최적화, AI-aware 라우팅 등 추론 기술을 통합한 생태계 구축을 목표로 한다. 

파반 부사장은 "오픈소스는 단순한 코드 공개가 아니라 커뮤니티·기업·생태계가 신뢰할 수 있는 표준을 만드는 과정"이라며 "우리는 AI 혁신을 안정성과 보안성으로 연결해 엔터프라이즈급 가치를 제공한다"고 강조했다.

"한국, AI로 돈 벌기 시작…AI 네이티브로 가야"

파반 부사장은 한국 시장이 아시아에서 우수한 AI 성숙도를 갖췄다고 평가했다. AI 기술 검증(PoC) 단계를 넘어 실제 운영 환경에서 AI를 돈 버는 수단으로 활용하기 시작했다는 이유에서다. 

파반 부사장은 한국 시장이 아시아에서 우수한 AI 성숙도를 갖췄다고 평가했다.

그는 "한국 고객은 특히 GPU 투자 대비 효율성과 추론 비용 최적화, 모델 운영 환경 안정성 등 현실적 과제까지 논의하기 시작했다"며 "어떤 AI 모델을 업무에 활용해야 하는지에 대한 기초 논의를 넘어선 수준"이라고 말했다. 

파반 부사장은 아시아 기업들이 AI 네이티브 기업으로 도약하기 위해 갖춰야 할 세 가지 요건으로 데이터와 문화, 스케일을 꼽았다. 기업이 AI를 통해 장기적이고 지속 가능한 성과를 내려면 이 세 가지 균형을 반드시 이뤄야 한다고 재차 강조했다.

그는 "AI 전략을 논의하기 전 가장 먼저 점검해야 할 것은 데이터 품질과 구조화"라며 "사일로 없는 데이터 플랫폼이 구축돼야 기업 전체가 AI 혁신을 추진할 수 있다"고 설명했다.

파반 부사장은 AI 네이티브 문화도 필요하다고 봤다. 경영진이 AI 네이티브에 대한 강력한 의지가 없다면 AI는 단순한 실험으로 끝날 수밖에 없다는 이유에서다. 조직 전체가 AI 활용 문화를 공유하고 뿌리내려야만 AI 성과를 낼 수 있다고 밝혔다. 

그는 스케일 전략도 중요하다고 내다봤다. 그는 "작은 성공에 만족하지 말고 장기적 AI 확장을 준비해야 한다"고 말했다. 이어 "앞으로 기업 내 유스케이스가 폭발적으로 늘어나기 때문에 이를 감당할 수 있는 인프라와 전략을 미리 갖추는 것이 필수"라고 덧붙였다.