"생성 AI 투자, 비즈니스 핵심을 찾아 집중하라"

“생성형 AI는 복잡한 기술의 총체다. 모든 걸 직접 만들어서 적용하는 건 어려우므로 선별해야 한다. 만약 퍼블릭 생성 AI가 회사의 특정 업무에 적합하다면 사용하면 된다. CRM, ERP, HCM 등 애플리케이션이 생성 AI를 안전하게 풀어냈다면 그것도 쓰면 된다. 그리고 자기 회사의 비즈니스 핵심을 보고, AI 적용으로 경쟁사 대비 차별화할 수 있는 것을 찾아야 한다. 더 빠르고 스마트하게 할 부분을 찾아서 자원을 집중해 AI를 개발하고 고유의 모델을 가져야 한다.”

존 로즈 델테크놀로지스 글로벌 최고기술책임자(CTO)는 12일 아시아태평양지역 기자단을 대상으로 개최된 온라인 브리핑에서 여러 생성 AI 솔루션과 서비스 중 어떤 것을 골라야 하는지에 대해 이같이 밝혔다.

존 로즈 CTO는 “가장 먼저 할 것은 우리 회사의 차별화 역량을 살피는 것이고, 그 역량을 볼 수 있다면 거기에 더 투자해야 한다”며 “인사 솔루션을 만드는 회사가 아니라면 전문업체에 그를 맡기고, 검색 회사 아니라면 검색 서비스를 쓰면 되듯이 과연 가장 우리 기업답게 만드는 것이 무엇인지 핵심을 찾고 나면 AI 어디에 집중할 지 찾을 수 있다”고 강조했다.

그는 이날 브리핑에서 현재 전세계적 생성 AI 트렌드를 정리하고 델테크놀로지스의 AI 대응 전략을 소개했다.

그는 “알고리즘을 사용해 의사결정을 하는 개념은 40~50년동안 존재해왔기에 AI는 새롭지 않다”며 “새로운 점은 작년 세계가 최초로 생성 AI라는 기술에 노출되고, 결과 예측뿐 아니라 완전히 새로운 콘텐츠를 생성하는 새로운 종류의 대규모 AI 시스템을 만났다는 것”이라고 말했다.

그는 “AI가 인간의 언어로 인간과 소통할 수 있는 기술을 세계에 선보인 것이었다”며 “AI 사용자 기반이 이를 이해할 수 있는 전 세계 수십만 명의 기술자로 제한됐던 것에서 생성 AI에 이르러 전 세계 인구로 커졌다”고 덧붙였다.

그는 생성 AI로 인해 디지털 혁신이 전문가의 영역에서 대중의 영역으로 넘어갔다고 했다. 그러면서 동시에 많은 우려를 낳고 있다는 점도 언급했다. 잘못된 대답을 하는 환각, 데이터를 처리하는 위치와 방법, 저작권, 특허, 상표 문제 등을 예로 들었다. 그러나 인간의 작업을 기계의 작업으로 대규모로 이동시킬 것이란 비즈니스 업계의 합의도 있다는 점을 강조했다. ERP, CRM 등의 애플리케이션이 IT시스템의 생산성을 극적으로 변화시킨 지 20년 만에 기업의 생산성을 근본적으로 변화시킬 파괴적 기술의 등장이 생성 AI라고 했다.

그는 “생성 AI는 단일 제품이 아니며, 다양한 형태로 제공된다”며 “개방형 AI, 빙, 바드 같은 공용 생성 AI 시스템도 있고, 기업에서 재교육하거나 미세 조정한 동일한 모델을 사용해 기업 내에서 사용되는 도메인별 AI 시스템도 있다”고 말했다.

그는 “생성 AI 시스템을 훈련하는 방법은 여러 가지이며, 일부는 초대형 데이터센터에서 엄청난 양의 데이터를 필요로 하며, 더 작은 데이터 세트와 룰 엔진, 차등 데이터를 사용할 수 있는 전이학습또는 연합학습이란 다른 접근 방식도 있다”며 “패키징과 전달 관점에서 데이터와 AI 시스템 간의 관계를 변화시키기 위한 발명도 항상 일어나고 있다”고 밝혔다.

그는 “지금 우리는 AI 시스템과 모델을 제공하는 강력한 오픈소스 커뮤니티와, 오픈AI 같은 AI 기업의 거래 기반 AI를 서비스, 미드저니와 ML옵스 환경과 같은 구독 서비스를 볼 수 있으며 심지어 AI 시스템과 기능을 쉽게 찾을 수 있도록 집계하려고 시도한 허깅페이스 같은 것까지 볼 수 있다”며 “이제 고객은 AI 기술에 액세스할 수 있는 방법에 대해 그 어느 때보다 더 많은 선택권을 갖게 됐으며 그 기술은 계속해서 성장하고 있다”고 말했다.

존 로즈 CTO는 AI 시스템에서 사용하는 데이터 유형도 진화하고 있다고 했다. 채팅 인터페이스에서 시작된 생성 AI는 이제 이미지, 오디오, 영상 등도 만들어내고 있다.

그는 “결론적으로 생성 AI 시스템이 채팅만큼 간단하지 않다는 것을 말하고 싶다”며 “GPT는 퍼블릭, 프라이빗, 오픈소스를 모두 포함하는 거대한 생태계이며, 글로벌 규모의 검색 엔진 서비스를 포함하고, 거기에 업무에 특화되고 기업에서 소유하고 운영하는 극적인 수준의 엔터프라이즈 AI 시스템도 포함된다”고 말했다.

그는 “따라서 이는 맞춤 제작이 어려운 영역이란 것을 의미한다”고 덧붙였다. 기업이 생성 AI의 모든 것을 직접 만들기 너무 크고 복잡하다는 것이다.

그는 델테크놀로지스의 AI 전략을 네 종류로 요약했다. 델의 모든 제품과 솔루션에 AI를 투입하는 것, 델의 솔루션에서 AI를 구동하게 하는 것, 델 내부에서 AI를 사용하는 것, 파트너 생태계와 함께 AI 솔루션을 제공하는 것 등이다.

그는 “델은 약 4년 전 사람들이 생성 AI 이전에 AI 시스템을 구축하고 배포했을 때 해당 시스템이 매우 복잡하고 까다롭다는 것을 인식했다”며 “우리는 고객에게 AI를 작업 부하가 아닌 새로운 종류의 사용자, 매우 까다로운 사용자, 지금까지 본 어떤 시스템보다 더 많은 데이터를 생성하고 소비하는 사용자로 생각해야 한다고 말해왔다”고 밝혔다.

그는 “그렇기 때문에 AI에 최적화된 시스템을 구축하기 시작했고, 생성 AI 시대로 접어들면서 델 포트폴리오는 엔비디아의 새로운 서버를 극적으로 확장시키면서 또 다른 가속기 제공업체와 협력해 AI에 최적화하고 있다”며 “또한 대부분의 사람이 AI를 컴퓨팅 문제라고 생각하지만, AI는 데이터 없이 아무것도 하지 않으며, 대부분 구조화되지 않은 엄청난 양의 데이터를 소비해야 하며, 매우 크고 매우 가치 있는 데이터 세트를 생성한다는 점에서 스토리지 문제기도 하다”고 말했다.

그는 델테크놀로지스의 공급망 고도화에 AI를 적용하고, 생성 AI로 판매 프로세스, 서비스 역량, 콘텐츠 관리 방식, 공급망 운영 방식 등을 최적화하고 개선하는 100여개 프로젝트를 만들었다고 소개했다.

그는 “그리고 우리가 매우 빨리 깨달은 것은 모든 고객의 AI 여정 시작에 도움이 필요하다는 것”이라며 “그래서 엔비디아, 인텔, 기타 업체 등과 생태계를 구축하고 기술을 하나로 모았으며, 고객이 쉽게 사용할 수 있도록 만들었다”고 강조했다.

그는 “서버만으로 대규모 언어 모델을 구현할 수 없으며, 스토리지 인프라와 소프트웨어 프레임워크도 있어야 한다”며 “개발자는 훨씬 더 집중적인 작업을 수행하므로 대부분의 경우 다른 클래스의 클라이언트 장치가 필요하며, 모든 경우에 생성 AI 프로젝트에 대한 보안 및 보호 전략이 있어야 한다”고 말했다.

그는 “우리의 접근 방식은 생태계와 협력해 고객이 개인 기밀, 비즈니스 중요 데이터에 생성 AI를 적용하려는 경우 쉽게 사용할 수 있는 검증된 설계, 참조 아키텍처 및 솔루션을 제공하는 것”이라고 덧붙였다.

이어 피터 마스 델테크놀로지스 아태지역 사장은 “델은 현재 생성 AI 제품 및 솔루션에서 20억달러 이상의 백로그를 보유했고, 이는 매일 확대되고 있다”며 “연간 23%씩 성장하는 생성 AI 시장은 550억달러로, 앞으로 몇년간 AI 시장은 두배로 늘어날 것”이라고 밝혔다.

존 로즈 CTO는 생성 AI의 편향성, 환각 등의 문제를 어떻게 해결할 것인가에 대해 학습 데이터의 선별과 AI를 통한 AI 검증을 제시했다.

그는 “퍼블릭 AI는 인터넷 정보를 활용해 편향성을 드러낼 수 있으므로, 기업은 AI 학습에 활용될정보를 까다롭게 선별해 큐레이션 데이터를 활용하고 미세조정 등으로 고유한 모델을 만들어내야 한다”며 “또한 AI를 사용해 다른 AI를 체크하는 방식을 활용해서 다른 LLM의 답변을 확인하고 소스데이터와 비교해 환각과 편향성을 판단하는 게 가능하다”고 말했다.

그는 현재 생성 AI 영역에서 촉발된 GPU 공급부족 사태에 대해서도 전망을 내놨다. 단기간에 GPU 공급문제가 해결되기 힘들겠지만, 다양한 선택지가 늘어나면서 점차 해소될 것이란 의견이다.

그는 “엔비디아가 30여개의 새로운 가속기 출시를 준비하고 있고 AMD나 인텔도 차세대 AI 가속기를 준비하고 있어 점차 더 많은 선택권을 갖게 될 것이라 다행스럽다고 생각한다”며 “모든 AI 주기는 효율성과 무관한 신기술 개발을 거쳐 최적화 단계로 넘어가는데 현재 생성 AI의 상황은 최적화를 막 시작한 단계”라고 말했다.