기업 인공지능(AI) 도입이 확산되면서 부서별 맞춤형 에이전트 구축 경쟁이 뜨거워지고 있지만, AI 모델 발전 속도가 빨라지면서 정교하게 튜닝한 에이전트가 오히려 빠르게 낡는 문제가 새로운 과제로 떠오르고 있다. 특정 모델에 최적화된 시스템을 구축하는 것보다 모델 교체를 전제로 데이터와 업무 맥락을 축적하는 플랫폼 전략이 중요해지고 있다는 분석이 나온다.
4일 업계에 따르면 국내외 기업들은 AI 에이전트 도입 과정에서 특정 거대언어모델(LLM)에 의존하지 않는 전략을 강화하는 분위기다. 업무 정확도를 높이기 위해 프롬프트 최적화, 검색증강생성(RAG), 파인튜닝을 적용하더라도 몇 달 뒤 더 저렴하고 성능이 좋은 모델이 나오면 기존 구축 자산의 효용이 떨어질 수 있어서다.
시장 변화도 이를 뒷받침한다. 멘로벤처스가 지난해 7월 발표한 보고서에 따르면 기업 LLM 지출은 6개월 만에 8억 4000만 달러로 두 배 이상 증가했다. 반면 같은 기간 오픈AI의 기업 시장 점유율은 50%에서 25%로 감소한 것으로 나타났다. AI 투자 규모는 커지고 있지만 특정 모델에 대한 충성도는 오히려 낮아지고 있는 셈이다.
업계에선 이러한 흐름을 수년 전부터 예고된 변화로 보고 있다. 실제 아마존웹서비스(AWS)의 경우 '아마존 베드록'을 통해 여러 AI 모델을 단일 환경에서 선택해 활용할 수 있도록 지원하고 있다. 특정 모델 자체보다 모델을 유연하게 교체하고 관리할 수 있는 플랫폼을 확보하는 것이 장기적으로 유리해진다고 봐서다.
모델보다 중요한 건 '업무 맥락'
실제 국내 기업들의 AI 전략도 유사한 방향으로 움직이고 있다. 삼성전자는 자체 생성형 AI 모델인 '가우스'를 개발했지만 지난해부터는 챗GPT·구글 제미나이·앤트로픽 클로드 등 외부 AI 서비스를 업무 현장에 도입할 것으로 알려졌다. 자체 모델 중심 전략에서 벗어나 업무 목적에 따라 최적의 AI를 활용하는 방향으로 선회한 것으로 풀이된다.
한화 역시 마이크로소프트 코파일럿 스튜디오를 기반으로 사내 AI 에이전트를 구축하고 있다. 경영진 보고서 작성과 환경 규제 검토 등 업무를 자동화하고 있는 가운데, 별도 LLM을 직접 개발하기보다 기존 플랫폼과 내부 데이터를 연결하는 방식에 집중하는 것으로 전해졌다.
공통점은 특정 모델에 종속되지 않는다는 점이다. 모델은 언제든 교체할 수 있도록 열어두고 기업 고유 데이터와 업무 프로세스는 별도 플랫폼에 축적하는 구조다. 이처럼 기업이 장기적으로 확보해야 할 자산은 AI 모델 자체가 아닌 업무 맥락이 꼽힌다.
최근 AI 시장에선 모델 성능 자체보다 데이터 연결성과 운영 효율성이 경쟁력을 좌우한다는 평가가 나온다. 과거에는 더 뛰어난 모델을 확보하는 것이 중요했다면 현재는 어떤 모델이 등장하더라도 기존 업무 환경에 빠르게 적용할 수 있는 유연성이 핵심 요소로 부상하고 있다. 기업들이 멀티 LLM과 에이전트 플랫폼 구축에 잇달아 나서는 배경도 여기에 있다.
국내 AI·클라우드 기업도 '멀티 LLM' 전면에
공공·민간 시장을 공략하는 국내 AI·클라우드 기업들도 이런 흐름에 맞춰 전략을 강화하고 있다. 네이버클라우드는 자체 초거대 AI인 하이퍼클로바X를 중심으로 서비스를 운영하면서 기업이 보유한 데이터를 안전하게 활용할 수 있는 '클로바 스튜디오'와 '데이터 안심존' 등을 제공 중이다. 최근에는 공공·국방 분야를 중심으로 자체 데이터를 유지한 채 AI를 활용할 수 있는 소버린 AI 전략을 강화하며 모델 자체보다 데이터와 업무 환경 축적에 무게를 두고 있다.
NHN클라우드는 최근 AI 풀스택 브랜드 '팩토리X' 내 에이전트 구축 플랫폼 '프로젝트X'를 공개했다. 기업이 특정 모델에 종속되지 않고 다양한 AI 에이전트를 설계·운영·관리할 수 있도록 지원하는 것이 핵심이다. 생성형 AI 모델이 바뀌더라도 기업이 구축한 업무 프로세스와 데이터 연계 구조는 유지할 수 있도록 설계됐다.
카카오 IT 솔루션 개발 자회사 디케이테크인 역시 B2B 협업 플랫폼 '카카오워크'에 AI 기능을 확대 적용하고 있다. 회의록 요약과 문서 작성, 질의응답 기능 등을 제공하며 기업이 기존 업무 환경을 유지한 채 생성형 AI를 활용할 수 있도록 지원한다. AI 모델이 바뀌더라도 기업의 메신저 기록과 업무 프로세스는 플랫폼 안에 그대로 남는 구조다.
가비아는 그룹웨어 '하이웍스'에 AI 채팅 기능을 탑재하고 오픈AI·구글·앤트로픽·퍼플렉시티 등 다양한 AI 모델을 선택해 사용할 수 있도록 지원한다. 결재와 메일, 일정 등 그룹웨어 데이터와 연동되는 만큼 모델이 교체되더라도 기업의 업무 맥락은 그대로 유지된다.
매니지드 서비스 기업(MSP) 메가존클라우드 역시 최근 'AI 오케스트레이터' 전략을 내세우며 여러 AI 에이전트와 LLM을 통합 관리하는 플랫폼 사업을 확대 중이다. 기업이 다양한 AI 서비스를 조합해 사용할 수 있도록 연결 계층 역할을 수행하며 개별 모델 경쟁보다 에이전트 운영과 거버넌스 역량을 강조하고 있다.
관련기사
"모델은 바뀌어도 데이터는 남아야"
업계에선 AI 경쟁 무게중심이 특정 모델 확보에서 다양한 모델과 에이전트를 연결하고 관리하는 플랫폼 경쟁으로 이동한 것으로 진단하고 있다. AI 모델 성능 격차는 빠르게 좁혀지고 교체 주기는 더욱 짧아지는 반면, 기업 업무 데이터와 운영 체계는 장기간 축적되기에 그 중요성이 더 커지고 있다는 판단이다.
업계 관계자는 "AI 도입 초기에는 어떤 모델을 선택하느냐가 가장 중요한 문제였지만 이제는 더 좋은 모델이 등장했을 때 얼마나 쉽게 교체할 수 있느냐가 핵심 경쟁력이 되고 있다"며 "기업이 남겨야 할 자산은 특정 모델이 아니라 업무 데이터와 맥락이며 앞으로 AI 시장 승부처도 이를 담아낼 플랫폼 역량이 될 것"이라고 말했다.
