"생성형 AI를 어떻게 시작할지 막막하다면 연락하세요"

김경아 한국델테크놀로지스 서비스사업부 부사장

“2022년말부터 생성형 인공지능(AI)가 대두되면서, 작년 많은 기업이 GPU 서버 확보에 집중했다. 본질은 확보한 GPU로 무엇을 할 것이냐다. 지금 기업고객의 관심은 GPU 확보를 넘어서 생성형 AI의 유즈케이스를 어떻게 만들고, 무엇에 활용할 것이냐로 바뀌고 있다. 문제는 전문가와 기술적 조언을 구하기 어렵다는 점이다. 델테크놀로지스는 ‘Bring AI to your data’란 기본 전략을 바탕으로 ‘단순화’, ‘맞춤화’, ‘신뢰성’ 등의 세가지 관점에서 AI 컨설팅 프레임워크를 만들었다. 델테크놀로지스는 기업의 AI 여정 전반을 성공적으로 진행할 수 있는 엔드투엔드 지원을 제공한다.”

김경아 한국델테크놀로지스 서비스사업부 부사장은 최근 본지와 인터뷰에서 자사의 생성 AI 컨설팅 사업 역량에 대해 이같이 밝혔다.

2022년 11월 오픈AI의 챗GPT 등장 후 IT 관련업계의 관심은 생성형 AI에 집중됐다. 기업은 경쟁적으로 생성형 AI 개발에 나섰고, 그 준비 일환으로 GPU 확보에 열을 올렸다. 엔비디아 H100 GPU를 탑재한 서버를 1년 이상 기다려야 납품받을 정도로 GPU 수급 불안이 심각했다.

김경아 한국델테크놀로지스 서비스사업부 부사장

GPU 공급이 어느정도 안정화되는 단계에 이르자 기업의 분위기도 바뀌고 있는 듯하다. 일단 인프라 확보부터 했던 기업이 구체적인 AI 개발 전략을 고민하기 시작한 것이다.  많은 기업이 생성형 AI 전략 수립에 도움을 줄 전문 파트너를 찾고 있다.

김경아 부사장은 “기업의 생성형 AI 여정은 매우 복잡하다”며 “GPU 서버를 도입한다 해도 그것을 얼마나 빨리 활용하게 할 것이냐도 또 하나의 관건”이라고 말했다.

김 부사장은 “델은 작년 엔비디아와 함께 ‘생성형 AI를 위한 검증설계(Dell Validated Design for Generative AI)'란 이름의 검증 설계 프레임워크크를 만들었는데, 일류 요리사가 만든 밀키트라 보면 된다”며 “생성형 AI 워크로드 구축의 복잡성을 간소화시켜 여정을 단순화하는 것으로, 고객의 요구를 조금씩 추가하면서 빠르게 시작할 수 있다”고 덧붙였다.

델 검증설계는 생성형 AI 워크로드를 위한 레퍼런스 아키텍처다. 한동안 ‘프로젝트 헬릭스’로 불렸던 것으로, 델과 엔비디아가 워크로드를 위한 하드웨어와 소프트웨어의 구성 및 설정을 사전에 검증해 시스템 구성 고민없이 쉽게 도입할 수 있게 한다.

델 AI 팩토리 위드 엔비디아

델테크놀로지스는 검증설계에서 한발 더 나아갔다. 단순화와 더불어 맞춤화를 위한 행보다.

김 부사장은 “얼마전 열린 엔비디아 GTC 2024에서 델테크놀로지스는 ‘델 AI 팩토리’란 솔루션을 발표했다”며 “정확히 ‘델 AI 팩토리 위드 엔비디아’란 이 솔루션은 아예 엔비디아와 델 공동으로 양사의 하드웨어와 소프트웨어를 사전에 통합해 고객에게 제공하는 것”이라고 밝혔다.

그는 “델 AI 팩토리에 대해 젠슨 황 엔비디아 회장은 델을 대규모로 엔드투엔드 시스템을 AI 관점에서 제공하는 유일한 회사라고 언급했다”며 “새 모델은 아예 공동 개발을 통해 엔드투엔드로 엔터프라이즈 AI 솔루션을 만든 것으로 보면 된다”고 강조했다.

델 AI 팩토리는 엣지, 코어, 클라우드 등에 이르는 전반의 환경에서 클라이언트, 서버, 네트워킹, 스토리지, 구독 서비스 등의 인프라와 엔비디아의 AI 엔터프라이즈 소프트웨어, 델 프로페셔널 서비스 등을 한번에 제공한다. 델테크놀로지스는 특히 고객의 생성형 AI 활용을 위한 단계마다 높은 수준의 컨설팅과 서비스를 제공한다.

김 부사장은 “고객이 어떤 유즈케이스에 AI를 활용할지 고민할 때 단순히 어떤 하나의 케이스에 활용하는 게 아니라 단계별로 어떤 분야, 어느 부서에서 활용할지 체계적으로 여정을 설계하도록 돕는다”며 “델테크놀로지스는 고객이 가장 빠르게 높은 투자수익률(ROI)을 달성하도록 하는 것을 최고 가치로 여기고 있다”고 말했다.

델테크놀로지스의 생성형 AI 서비스 프레임워크는 이처럼 ‘단순화’와 ‘맞춤화’를 고민한다. 이와 함께 생성형 AI의 보안과 정확성을 담보할 수 있는 ‘신뢰성’에도 관심을 갖는다.

김 부사장은 “현재 많은 고객의 우려는 AI에 자신의 데이터를 학습시켜야 하는데 생성형 AI는 퍼블릭한 솔루션이라 그와 동일한 솔루션을 온프레미스에 구추하지 않는 한 데이터를 외부에 개방하게 된다는 것”이라며 “또한 생성형 AI의 답변이 100% 진실하다는 것을 확신할 수 없다는 문제도 있다”고 말했다.

그는 “델은 모든 포트폴리오에서 보안을 핵심 항목으로 두고 ‘제로 트러스트’ 중심으로 제품을 만든다”며 “민감하고 기밀성인 기업 내부 데이터를 다루는 과정에서 데이터 손상, 프라이버시, 완벽한 진실성 등을 확보할 수 있도록 지원한다”고 덧붙였다.

델테크놀로지스는 AI 컨설팅에서 포롹적 관점에 기반한 단계별 접근법을 취한다.

델테크놀로지스 서비스사업부는 전략수립(Strategize), 시작(Implement), 채택(Adopt), 확장(Scale) 등 생성형 AI 여정을 모두 지원한다.

김 부사장은 “전략을 세우는거에서 시작해 구현과 채택 과정에서 가장 고부가가치적인 유즈케이스를 조언하고, 시범 도입 후 사례를 확장하는 과정에서 큰 고민거리인 전문인력 문제에 도움을 주도록 상주인력을 배치한다”며 “생성형 AI에 어떤 전략을 세우고, 단계적으로 투자할 것인지 CEO와 CIO뿐 아니라 CMO와 COO도 결정과정에 참여해서 ‘As is To be’ 모델로 분석함으로써 단계별로 기대효과를 명확하게 해갈 수 있다”고 강조했다.

그는 델테크놀로지스 서비스 사업부의 생성형 AI 서비스 프레임워크에 대해 여정마다 조직의 AI 준비상태를 확인할 수 있는 몇가지 질문을 던지는 것으로 설명했다.

▲귀하의 전략은 얼마나 명확한가(전략) ▲생성형 AI 모델에 데이터를 어떻게 통합하고 보호할 것인가(데이터) ▲우선 사용 사례를 확인했느냐(AI모델) ▲생성형 AI 플랫폼을 어떻게 구축하고 운영할 것인가(플랫폼) ▲생성형 AI 성공에 필요한 기술과 자원을 보유하고 있는가(인력) ▲비즈니스에 생성형 AI를 효율적으로 채택할 수 있는가(채택) 등이다.

그는 “글로벌 프레임워크에 더해서 한국은 하나의 단계를 더 추가했다”며 “고객이 컨설팅을 받으려 할 때 어디서부터 시작해야 할 지 확신하지 못할 수 있으므로 우리 팀이 1~2주일의 기간동안 디스커버리 단계를 제공한다”며 “고객과 액셀러레이터 워크샵을 통해 현황과 준비도를 빠르게 탐색하고, 각 여정 단계를 어느정도로 설정해야 할 지 제안하는 일종의 맛보기 서비스”라고 설명했다.

그는 “고객은 자칫하면 AI 관련 솔루션마다 단편적으로 검토할 수 있다”며 “델은 광범위한 시각으로 바라보고 단편적인 솔루션 검토보다 전체적인 전략을 짜서 어떤 모델을 활용할지 일련의 작업 흐름을 만들면서 일단 파일럿 형태로 사업을 진행하고 계속 모델을 최적화해서 점점 더 몸집을 키워가는게 맞다고 제안한다”고 덧붙였다.

델테크놀로지스는 현재 생성형 AI 하드웨어로 엔비디아 GPU 8개를 탑재한 서버 ‘XE9680’과 확장형 스토리지인 ‘델 파워스케일’을 제공하고 있다. 델 검증설계와 델 AI 팩토리로 생성형 AI 최적 아키텍처를 빠르게 채택하도록 한다. 서비스 프레임워크도 제품처럼 프로토타입과 아키텍처로 설계돼 발빠르게 고객의 요구에 대응할 수 있다.

생성형 AI를 기업에 구축하고 활용하는 과정은 매우 복잡하므로 당연히 델테크놀로지스가 모든 부분을 지원할 수 없다. 델테크놀로지스는 여정의 빈 공간을 전문 파트너 생태계로 채운다.

김 부사장은 “델이 가장 잘 하는 것은 고객의 요구와 도전과제, 리스크를 고려해서 어떤 아키텍처와 솔루션을 도입해야 하는가에 대한 것이고, 글로벌과 한국 내 써드파티와 연계해서 프로젝트를 수행하고 있다”며 “글로벌 솔루션 업체 외에도 한국 내의 산업 특화 업체와 함께 고객을 지원한다”며 “국내 파트너로 다올TS, 메이머스트가 인프라 분야에서, 코그넷나인, 텐, 엠펙트 등이 전문 분야에서 파트너로 협력하고 있고, 글로벌하게 소프트서브와 긴밀히 협력중”이라고 밝혔다.

그는 “델테크놀로지스도 생성형 AI 전략을 계속해서 진화시키고 있다”며 “만약 생성형 AI를 어디서 시작해야 할 지 모르겠다면 우리에게 연락달라”고 강조했다.