[현장] 독자 AI 모델 갖춘 한국…코히어가 '소버린 AI'로 노리는 틈은

에이전트 플랫폼 '노스' 국내외 AI 모델 연결…"NPU 수요 늘면 연동 추진"

"우리 소버린 인공지능(AI) 사업 목표는 한국산 AI 모델·인프라와 경쟁하는 것이 아닙니다. 고객사가 업무에 맞는 모델을 자유롭게 골라 쓰는 환경을 조성하는 것입니다. 온프레미스·에어갭 구축과 기술 지원까지 앞세워 금융·공공·제조 같은 규제 산업까지 AI를 직접 통제하면서 사용할 수 있는 생태계도 만들 것입니다."

프랭크 오다우드 코히어 사업총괄책임(CRO)은 5일 서울 웨스틴조선호텔 기자간담회에서 국내 소버린 AI 시장 공략을 이같이 밝혔다. 

코히어는 한국 독자 AI 모델이나 시스템을 대체하기보다 여러 모델을 기업 업무에 연결·운영하는 플랫폼 역할을 소버린 AI 사업 목표로 내세웠다.

프랭크 오다우드 코히어 CRO(가운데)가 기자간담회에서 질의응답을 진행하고 있다.

실제 LG AI연구원을 비롯한 업스테이지, 네이버클라우드 등 국내 AI 기업들은 이미 자체 거대언어모델(LLM)과 온프레미스 기반 AI를 구축·운영하고 있다. 이에 데이터 반출과 보안 규제가 엄격한 국내 산업에서는 외산 서비스보다 국내 AI 모델과 인프라를 우선 선택할 가능성이 높다.

오다우드 CRO는 이런 시장 환경에서 한국 모델과 직접 경쟁하는 것보다 상호 연동에 초점을 맞췄다고 밝혔다. 에이전틱 AI 플랫폼 '노스'를 통해 코히어 모델뿐 아니라 국내 독자 AI 모델과 오픈소스 모델을 연결하고 기업이 업무별로 적합한 모델을 선택하도록 지원한다는 전략이다. 

코히어 에이전틱 AI 플랫폼 노스는 기업이 업무 특성과 비용에 따라 여러 AI 모델을 선택해 사용할 수 있도록 지원한다. 코히어 자체 모델뿐 아니라 국내 독자 AI 모델과 외부 프런티어·오픈소스 모델을 연결할 수 있다. 고객사는 여기에 데이터와 업무 시스템을 연동해 검색과 분석 AI 에이전트 구축까지 수행하도록 설계됐다.

오다우드 CRO는 "소버린 AI 핵심은 고객이 데이터와 시스템 통제권을 유지할 수 있는 것"이라고 재차 강조했다. 

코히어는 기업 자체 데이터센터와 온프레미스뿐 아니라 외부망이 차단된 에어갭 환경에서도 AI를 운영할 수 있도록 지원한다. 이를 통해 국내 모델만으로 해결하기 어려운 멀티모델 운영과 기업 시스템 연동 수요를 공략한다는 구상이다.

오다우드 CRO는 기업 내부 정보 검색과 AI 에이전트 구축 역량도 차별점으로 제시했다. 코히어는 임베드와 리랭크 기술을 적용해 검색 정확도를 높이고 필요한 정보만 모델에 전달해 토큰 사용량을 줄일 수 있다고 설명했다.

이날 장화진 코히어 아태지역 총괄 대표 사장은 특정 하드웨어(HW)나 클라우드 사업자에 종속되지 않는 운영 환경도 소버린 AI 시장 경쟁력으로 꼽았다. 현재 코히어는 엔비디아와 AMD 등 여러 HW에서 솔루션을 운영하고 있다.

장화진 코히어 아태지역 총괄 대표 사장(오른쪽)이 코히어 소버린 AI 경쟁력에 대해 설명하고 있다.

장 사장은 "향후 고객 수요가 확보되면 구글 텐서처리장치(TPU)와 한국산 신경망처리장치(NPU) 지원 환경도 만들 것"이라고 강조했다.

장 사장은 기업 협력도 국내 소버린 AI 사업 확대 주요 축으로 꼽았다. 실제 코히어는 LG CNS를 첫 번째 주요 파트너로 두고 기업용 AI 도입과 구축 사업을 추진하고 있다. 국내 시스템통합(SI) 기업과 AI 모델 기업 공공기관 등으로 파트너 생태계를 넓힐 계획이다.

코히어는 국내에서 확보한 고객 사례와 구축 경험을 일본과 싱가포르 등 아태 시장으로 확산할 방침이다. 한국을 제품 판매 시장이 아니라 소버린 AI 구축과 기술 지원을 수행하는 아태 지역 사업 거점으로 키운다는 전략이다.

"한국, 아태지역 기술 거점…일본·싱가포르에 확산"

오다우드 CRO가 5일 서울 웨스틴조선호텔 기자간담회에서 국내 소버린 AI 시장 공략을 발표했다. (사진=코히어)

코히어는 한국 법인과 현지 기술 조직을 구축해 서울을 아시아·태평양 지역 소버린 AI 사업 핵심 거점으로 키운다. 한국에서 확보한 고객과 구축 경험을 역내 시장으로 확대해 아태 지역 고객 기반을 현재보다 세 배 이상 늘린다는 목표다.

장 사장은 한국 법인 설립에 약 3개월이 걸릴 것으로 예상했다. 법인 설립과 함께 영업과 기술 지원을 아우르는 조직을 구축하고 국내 고객 AI 도입 전 과정을 지원할 방침이다. 실제 코히어는 지난달부터 한국과 일본 싱가포르에서 영업·기술 분야 11개 직무의 채용을 시작했다.

한국에서는 기업 영업 담당자와 머신러닝(ML) 엔지니어 AI 기술 프로그램 매니저 에이전트 플랫폼 엔지니어 등을 모집하고 있다. 기술 인력은 고객사 데이터와 기존 업무 시스템을 연결하고 기업에 필요한 AI 기능과 에이전트를 구현한다.

특히 ML 엔지니어와 기술 프로그램 매니저는 모델 적용과 성능 조정, 구축 일정, 운영 과정까지 지원한다. 코히어는 이를 통해 고객 발굴부터 AI 시스템 구축과 운영까지 현지에서 대응하는 체계를 갖출 계획이다.

그는 "한국 조직은 단순한 제품 판매와 고객 발굴에 머물지 않고 실제 AI 구축을 담당하는 기술 거점 역할을 맡을 것"이라며 "영업과 엔지니어링 인력을 포함한 두 자릿수 규모 현지 인력을 단계적으로 확보할 계획"이라고 설명했다.

코히어는 서울 조직을 국내 고객 지원 거점에서 아태 지역 기술 지원 허브로 확대한다. 한국의 금융과 의료, 제조, 에너지 공공 분야에서 확보한 구축 사례를 일본과 싱가포르 등 다른 국가에 적용한다는 구상이다.

아태 지역 기술·영업 조직은 내년 말까지 현재보다 두 배로 확대할 계획이다. 현지 고객과 접점을 넓히고 국가별 산업과 규제 환경에 맞춘 AI 구축 사업을 강화하기 위한 조치다.

장 사장은 "아태 지역 고객 수는 전년 대비 약 다섯 배 증가했다"며 "이 가운데 절반가량이 한국 고객이다"고 설명했다. 이어 "한국서 확보한 구축 경험을 일본과 싱가포르 등 아태 시장에 적용해 아태 지역 고객을 지금보다 세 배 이상 늘릴 계획"이라고 밝혔다.