AI 도입 기업, 보안 여전히 뒷전…"데이터 유출 사례 증가"

IBM, 데이터 유출 보고서 통해 경고…"유출 사고 후 절반만 대응 계획"

기업의 인공지능(AI) 도입이 보안 강화보다 빠르게 진행되면서 데이터 유출 위험이 높아졌다는 조사 결과가 나왔다. 

21일 IBM가 발표한 '2025 데이터 유출 비용 연구 보고서'에 따르면 기업이 적절한 보안 장치를 마련하지 않아 데이터 유출 사례가 확산한 것으로 나타났다. 

보고서는 조사 대상 조직의 13%가 AI 모델이나 애플리케이션에서 데이터 유출을 겪었다고 설명했다. 또 8%는 AI 시스템이 공격받았는지 조차 알지 못했다고 응답했다.

2025 데이터유출비용 연구 보고서 이미지. (사진=IBM)

AI 보안 사고를 경험한 조직 중 97%는 적절한 접근 제어 장치가 마련돼 있지 않은 것으로 확인됐다. 이로 인해 사고의 60%는 데이터 유출로 이어졌고 31%는 운영 중단으로 확산됐다. 

보고서는 AI 보안과 거버넌스가 미흡한 상황에서 AI 도입에만 몰두하면 피해 규모가 커진다고 지적했다. 특히 데이터 유출은 비용뿐 아니라 기업 신뢰와 통제력 상실로 이어질 수 있다고 경고했다.

또 AI 거버넌스 정책을 보유하지 않거나 개발 중인 조직은 전체의 63%에 달했다. 정책이 있는 곳에서도 비승인 AI를 정기적으로 감사하는 곳은 34%에 그쳤다. 

특히 섀도 AI는 새로운 위험 요인으로 꼽혔다. 전체 조직 중 20%는 섀도 AI로 인한 유출을 경험했으며 이 경우 유출 비용은 평균 67만 달러(약 9억3천700만원) 더 높았다. 개인 식별 정보와 지적 재산 유출 비율도 일반 보안 사고보다 높은 수치다.

또 전체 시스템 침해 사례 중 16%는 공격자가 AI 도구를 활용한 것으로 나타났다. 주된 수법은 피싱과 딥페이크 사칭 공격이었다.

AI와 자동화를 보안 운영에 적극 도입한 조직은 유출 비용을 평균 190만 달러(약 26억5천700만원) 절감했고 탐지와 대응 기간을 80일 단축했다. 반대로 보안 투자 계획을 밝힌 조직은 전체의 절반도 되지 않았다.

IBM 수자 비스웨산 보안 및 런타임 제품 담당 부사장은 "공격자는 AI 도입과 감독 간의 격차를 악용하기 시작했다"며 "AI 보안은 단순한 재정 손실을 넘어 신뢰 투명성 통제력 상실과 직결된다"고 밝혔다.