"기업들, AI 윤리적으로 사용" 42%…고객 신뢰 떨어져

기업 신뢰도 2년새 48%→29% 급락...고객 신뢰 회복이 최우선 과제로

세일즈포스가 전 세계 15,015명의 소비자와 1,570명의 기업 구매자를 대상으로 실시한 'State of the AI Connected Customer' 보고서에 따르면, 기업에 대한 신뢰도가 급격히 하락하고 있다. 2020년에는 기업에 대한 신뢰가 증가했다는 응답이 48%, 감소했다는 응답이 52%였으나, 2024년에는 신뢰가 증가했다는 응답이 29%로 떨어진 반면, 감소했다는 응답은 71%까지 치솟았다. (☞ 보고서 바로 가기)

특히 기업의 AI 윤리적 사용에 대한 소비자 신뢰도는 2023년 58%에서 2024년 42%로 급격히 하락했으며, 소비자의 64%는 기업들이 고객 데이터를 무분별하게 사용한다고 우려했다. 고객들의 61%는 AI 기술의 발전으로 기업의 신뢰성이 더욱 중요해졌다고 응답했다.

기업이 고객의 신뢰를 얻기 위해 가장 중요한 행동으로는 공정한 가격 책정과 가치 제공(54%)이 꼽혔다. 특히 일반 소비자의 경우 이 비율이 55%로, 기업 구매자(44%)보다 높았다. 그 다음으로는 일관된 제품/서비스 품질 유지(36%), 고객 개인정보와 데이터 보호(35%)가 중요한 요소로 나타났다. 이는 소비자와 기업 구매자 모두에게서 비슷한 수준의 응답률을 보였다.

AI 윤리적 사용 우려 4년새 66%→73%로 증가...강한 우려는 22%→37% 급증

AI 기술의 급속한 발전과 함께 윤리적 사용에 대한 우려도 꾸준히 증가하고 있다. AI의 비윤리적 사용에 대한 우려는 2020년 66%에서 시작해 2021년 72%, 2022년 74%로 증가하다가 2024년에는 73% 수준을 유지했다. 특히 주목할 만한 점은 이에 대해 '강한 우려'를 표명한 응답자의 비율이 2020년 22%에서 2024년 37%로 크게 증가했다는 것이다.

고객들의 61%는 AI 기술의 발전으로 인해 기업의 신뢰성이 더욱 중요해졌다고 응답했다. 그러나 기업들이 AI를 윤리적으로 사용할 것이라는 신뢰도는 2023년 58%에서 2024년 42%로 급격히 하락했다. 이는 AI 기술의 발전 속도에 비해 기업들의 윤리적 관리와 투명성 확보가 따라가지 못하고 있음을 시사한다.

개인화 서비스 만족도 35%→73% 상승...데이터 활용 신뢰도는 60%→49% 하락

개인화 서비스에 대한 소비자 인식이 지난 5년간 극적으로 변화했다. 2020년에는 65%의 소비자가 기업들이 자신을 '숫자'로 대한다고 느꼈고 35%만이 '고유한 개인'으로 대우받는다고 생각했다. 이후 2021년에는 '숫자'라는 응답이 56%, 2022년 61%로 증가세를 보이다가, 2023년을 기점으로 큰 변화가 일어났다. 2023년에는 '고유한 개인'이라는 응답이 39%였으나, 2024년에는 73%로 급증했다.

하지만 개인정보 보호에 대한 우려도 함께 커졌다. 고객들의 71%는 자신의 개인정보 보호에 대해 점점 더 민감해지고 있다고 답했다. 특히 기업의 데이터 활용이 고객에게 이익이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 크게 하락했다. 이러한 수치는 기업들이 제공하는 개인화 서비스의 수준은 높아졌지만, 고객 데이터 활용의 투명성과 실질적 혜택 제공에서는 여전히 개선이 필요함을 보여준다.

가격 민감도 최고조...소비자 65% "높은 가격으로 구매 중단"

가격은 소비자 행동 변화의 가장 큰 요인으로 나타났다. 새로운 브랜드를 시도한 이유로는 더 나은 거래(45%), 제품 선택의 다양성과 품질(24%), 편의성(23%)이 꼽혔다. 반면 특정 브랜드 구매를 중단한 이유로는 높은 가격(65%), 불만족스러운 고객 서비스 경험(43%), 제품이나 서비스 품질의 일관성 부족(40%)이 주된 요인으로 조사됐다.

특히 일반 소비자의 경우 높은 가격으로 인한 구매 중단이 66%로 기업 구매자(53%)보다 높게 나타났다. AI 활용과 관련해서는 50%의 소비자가 제품 개선을 위한 AI 활용에 긍정적이었으며, 49%는 더 빠른 응답을, 47%는 신속한 문제 해결을 기대했다.

AI 에이전트 활용...기업(46%)과 소비자(30%) 간 선호도 격차 뚜렷

AI 에이전트 활용에 대해서는 기업 구매자와 일반 소비자 간 인식 차이가 뚜렷했다. 빠른 서비스를 위해 AI 에이전트를 활용하겠다는 응답은 기업 구매자의 경우 46%였으나, 일반 소비자는 30%에 그쳤다. AI 에이전트가 자신의 요구를 더 잘 예측하도록 개인정보를 공유할 의향이 있다는 응답도 기업 구매자는 42%인 반면, 일반 소비자는 25%에 불과했다.

AI 맞춤형 서비스 선호도...일정 예약(40%) 높고 의료·재무(58%) 낮아

가장 선호되는 AI 활용 사례는 일정 예약(40%)과 맞춤형 콘텐츠 제작(38%)이었다. 반면 의료 상담(44% 불편함), 재무 결정(58% 불편함) 등 중요한 의사결정에서는 AI 활용을 불편해하는 것으로 나타났다. 특히 AI 에이전트가 본인을 대신해 응답하는 것에 대해서는 50%가, 재무적 의사결정을 대신하는 것에 대해서는 58%가 불편함을 표했다.

AI 신뢰 구축 핵심 요소...투명성(42%)·인간 검증(35%) 최우선

응답자의 24%는 향후 5년 내에, 25%는 5-10년 내에 AI가 인간의 능력과 비슷한 수준에 도달할 것으로 전망했다. AI 신뢰 구축을 위해 가장 중요한 요소로는 AI 사용에 대한 투명성(42%), 인간의 검증(35%), 사용자 통제권(32%), AI 결정의 설명 가능성(31%), 일관된 정확성(30%)이 꼽혔다.