세일즈포스 "올해 키워드는 AI 신뢰성·지속 가능성"

"올해 인공지능(AI) 기업은 신뢰성과 지속 가능성을 본격적으로 실행해야 한다. 세일즈포스는 이미 해당 전략을 꾸준히 준비해 왔다. 기업 고객에게 신뢰할 수 있고 지속 가능한 AI 기술이 무엇인지 제대로 보여주겠다."

세일즈포스는 올해 주요 사업 목표를 AI 신뢰성과 지속 가능성으로 꼽았다. 믿을 수 있는 AI 솔루션을 공급하고, 탄소중립 등 지속 가능성을 위한 노력에 앞장설 방침이다.

그동안 이 회사는 '신뢰할 수 있는 AI'에 주력해 왔다. 지난해 9월부터 관련 기술 '아인슈타인 트러스트 레이어'도 고객에게 제공하고 있다. 아인슈타인 트러스트 레이어는 세일즈포스 솔루션 내에서 작동한다. 고객 데이터 유출이나 해킹을 차단해 주는 기능을 갖췄다.

세일즈포스가 올해 주요 사업 목표를 AI 신뢰성과 지속 가능성으로 꼽았다. (사진=세일즈포스)

작동 원리는 간단하다. 사용자가 세일즈포스 솔루션에서 생성형 AI를 활용할 때 작동한다. 이용자가 솔루션 내에서 명령어를 입력하면, 아인슈타인 트러스트 레이어가 답변에 활용할 데이터를 자체적으로 선별한다. 이를 통해 주요 데이터를 거대언어모델(LLM)을 통해 자연어로 전환해 제공한다. 이때 활용되는 개인 정보나 민감 데이터는 자동으로 가려진다. 사용자가 업무를 끝내면 트러스트 레이어는 작업에 사용했던 모든 데이터를 삭제한다. LLM에 고객 데이터가 들어갈 일이 없는 셈이다.

세일즈포스는 "고객은 트러스트 레이어를 통해 데이터 보안 및 개인 정보 보호 제어 손상 없이 생성형 AI 솔루션을 안전하게 이용할 수 있다"고 밝혔다. 현재 아인슈타인 트러스트 레이어는 모든 고객관계관리(CRM) 솔루션에 들어간 상태다.

올해 세일즈포스는 '윤리 및 인도적 사용 사무소'를 통해 책임감 있는 AI 도구를 추가로 개발할 예정이다. 공식 홈페이지 내용에 따르면, 이 팀은 고객이 AI 도구를 책임감 있고 윤리적으로 사용하도록 돕는 역할을 맡았다. 윤리성을 앞세운 AI 도구 개발도 진행한다. 팀원은 AI 윤리학자를 비롯한 정책 전문가, 사용자경험(UX) 연구원, 제품 전문가 등으로 구성됐다.

예를 들어, 이 팀은 AI 모델이나 도구를 개발할 때마다 별도로 정보 카드를 만든다. 카드에는 모델이나 도구 성능 특성이 적혀있다. 해당 기술이 어떻게 작동하는지, 입력과 출력은 무엇인지, 기술이 가장 잘 작동하는 조건은 무엇인지, 사용 시 고려해야 할 윤리적 측면은 무엇인지에 대한 정보를 담았다. 이를 통해 고객에게 AI 모델이나 도구를 안전하고 윤리적으로 활용하는 법을 알린다.

세일즈포스의 신뢰성 전략이 독보적이진 않다. 이달 15일 스위스 다보스에서 열린 세계경제포럼에서도 기술 신뢰성을 심도 있게 다뤘기 때문이다. 포럼에 참석한 글로벌 기업 최고경영자(CEO)들이 주요 화두를 기술 신뢰성으로 꼽기도 했다. 포럼 주제도 '신뢰의 재구축'이었다.

다만 글로벌 기업들은 이번 행사에서 AI 신뢰성에 대한 주장만 했을 뿐, 이에 대한 구체적인 기술 소개나 눈에 띄는 전략을 제시하지는 않았다. 반면 세일즈포스는 아인슈타인 트러스트 레이어, 윤리 및 인도적 사용 사무소 운영 방식 등을 소개함으로써 AI 신뢰성에 대한 전략을 구체적으로 보여줬다. 세일즈포스 측은 "다른 기업들은 애플리케이션과 제품을 책임감 있게 구축하겠다는 모호한 약속만 했지만, 우리는 신뢰 있는 AI 개발을 보장하는 프레임워크와 안전장치를 내놨다"고 본지에 전했다.