HPE, DB생명에 통합 AI 인프라 구축…"금융권 소버린 AI 확산"

국내 금융 규제 요건 대응…에어갭·RAG 기반 한국어 최적화 지원

HPE가 국내 금융권의 소버린 인공지능(AI) 기반 차세대 서비스 고도화를 지원하기 위해 앞장선다.

HPE는 DB생명이 직원 생산성 향상, 고객 응대 자동화 및 운영 효율성 강화를 위한 AI 전환(AX) 파트너로 자사를 선정했다고 22일 밝혔다.

DB생명은 HPE와 협력해 차세대 AI 기반 챗봇 서비스를 도입하고 HPE 그린레이크 플렉스 솔루션을 활용한 확장형 대규모언어모델 운영(LLMOps) 플랫폼을 구축했다. 이 솔루션은 컴퓨팅·스토리지·네트워킹·AI 소프트웨어(SW)를 유연한 종량제 모델로 결합한 모듈식 서비스형 인프라다. 기업이 통제·보안·데이터 주권을 유지하면서 필요에 따라 리소스를 확장할 수 있도록 지원한다.

(사진=HPE)

이는 직원들의 정보 접근과 활용 방식을 개선하고 응답 시간을 단축하며 보다 정확하고 개인화된 고객 상담을 제공하도록 설계됐다. 전 세계 금융 서비스 기관들이 운영 효율성과 고객 참여 강화를 위해 생성형 AI 도입을 확대하고 있는 가운데, DB생명은 이번 기술 도입을 통해 혁신과 고객 중심 전략을 본격화했다.

DB생명 민효식 디지털혁신본부장은 "HPE는 우리가 고객 서비스를 재정립하는 과정에서 과감한 도약을 할 수 있도록 지원했다"며 "HPE의 AI 솔루션과 서비스를 도입함으로써 인프라와 정보에 대한 완전한 통제권과 주권을 확보할 수 있었다"고 밝혔다.

이어 "생성형 AI를 신뢰하고 활용할 수 있는 환경을 마련했으며 직원들은 보다 빠르고 정확한 정보에 접근할 수 있게 됐다"며 "또 응답 시간 단축과 함께 더욱 매끄럽고 개인화된 경험을 창출해 차세대 디지털 금융 서비스를 선도할 수 있는 경쟁력을 갖추게 됐다"고 덧붙였다.

이번 구축에서 HPE는 자문 중심 접근 방식과 서비스형 모델을 결합해 엄격한 국내 규제와 소버린 AI 요건을 충족하는 통합 솔루션을 제공했다. HPE 그린레이크 플렉스 솔루션을 비롯해 HPE 데이터 패브릭 SW, HPE 심플리비티 가상화 기술을 통합해 리소스 사용을 최적화하고 DB생명 환경 내에서 안전한 구축을 구현했다.

솔루션의 핵심은 한국어에 최적화된 LLM옵스 플랫폼으로, 이는 검색증강생성(RAG)을 자동화하고 이를 LLM과 보안이 강화된 에어갭 환경에서 통합한다. 이를 통해 DB생명은 수천 건의 기존 문서에서 데이터를 추출해 검색 가능한 포맷으로 변환하고 이를 LLM 추론 역량과 결합해 맥락을 파악한 응답을 제공할 수 있게 됐다.

HPE는 이번에 구축한 확장형 플랫폼 사례를 향후 국내 디지털 금융 서비스 분야에서 확장과 차별화를 위한 기반으로 활용한다는 방침이다.

김영채 한국 HPE 대표는 "오늘날 금융기관들은 복잡한 규제 환경 속에서도 더 빠르고 스마트하며 개인화된 서비스를 제공해야 하는 압박을 받고 있다"며 "이번 DB생명과의 협업은 생성형 AI를 안전하고 효과적으로 활용해 실질적인 비즈니스 가치를 창출할 수 있음을 보여준 사례"라고 강조했다.

이어 "엔터프라이즈 기술과 산업 전문성, 서비스형 제공 모델을 통해 DB생명이 생산성과 고객 경험을 의미 있게 향상시키는 AI 기반 미래를 구축하도록 지원할 것"이라고 덧붙였다.