"고객 데이터는 기업 상품이 아니다"

[샌프란시스코(미국)=김미정 기자] "고객 데이터는 기업 상품이 아닙니다. 사고파는 것이 아니라 보호해야 하는 존재입니다. 세일즈포스는 앞으로 인공지능(AI) 제품에 신뢰성을 더 키울 것입니다. 이를 통해 고객이 데이터 보안 염려 없이 생성 AI 제품을 편하게 이용할 수 있게 하겠습니다."

마크 베니오프 세일즈포스 최고경영자(CEO)는 12일부터 14일까지 미국 캘리포니아주 샌프란시스코에서 열린 '드림포스2023' 기조연설에서 고객 데이터 중요성을 재차 강조했다. 이번에 새로 공개한 '아인슈타인 원 코파일럿 플랫폼'에 고객 데이터를 어떻게 활용할 건지도 설명했다.

마크 베니오프 CEO는 최근 기업과 고객 사이에 AI 신뢰성 격차가 커졌다고 했다. 그는 "기업은 AI에 대한 신뢰성이 점점 커지는 반면, 고객은 AI에 대한 신뢰성이 점점 떨어지고 있다"고 했다.

그의 설명에 따르면, 고객은 자신의 정보가 AI 모델에 학습될 수 있고, 여러 제품에 무단으로 활용될 수 있다는 점을 불편해하고 있다. 생성 AI 답변에 대한 신뢰도도 낮다. 환각 현상 때문이다. 생성 AI를 직접 구축, 적용하는 기업보다 낮은 신뢰성 수치를 보이는 이유다.

베니오프는 "고객의 낮은 AI 신뢰성은 기업 브랜드 이미지를 손상할 것"이라며 "고객 데이터를 최대한 조심스럽게 다루는 AI 제품을 만들어야 한다"고 강조했다. 그는 "일반 고객이 AI를 믿을 수 있게 만들어야 한다"며 "고객 경험을 근본적으로 개선할 수 있는 방법을 찾아야 한다"고 강조했다.

베니오프 CEO는 고객 데이터를 클라우드에 안전히 보관해야 한다고 강조했다.

베니오프 CEO는 고객 데이터를 생성 AI 시대에 안전히 보관·활용할 수 있는 방법을 안다고 했다. 그는 "약 26년 동안 고객 데이터를 철저히 보호하는 기술을 개발, 고도화했다"며 "10년 전에는 AI를 안전하게 활용할 수 있는 방법까지 연구했다"고 강조했다. 그동안 고도화한 데이터 보호 기술을 생성 AI 제품에 접목할 방침이다. 그는 "고객 데이터는 우리 제품이 아니다"며 "26년간 갈고닦은 기술로 고객 데이터를 보호하겠다"고 재차 말했다.

마크 베니오프 CEO는 생성 AI 제품에 신뢰성을 고도화할 방침을 강조했다. 그는 "세일즈포스 AI 제품은 고객 데이터를 학습하지 않는다"며 "데이터를 무단으로 복제하거나 AI 모델에 넣어 훈련에 활용하지 않는다"고 했다. 고객 데이터가 생성 AI에 학습되거나 부적절한 방법으로 활용되지 않기 위해서다. 또 고객이 AI 제품을 안전하게 활용할 수 있도록 돕는 방법을 지속적으로 고도화할 계획도 알렸다.