AI 추천 서비스 자율규제? "기업이 왜·어떻게 지켜야 하나"

인공지능(AI) 기반 콘텐츠 추천 서비스가 야기할 수 있는 이용자 피해를 예방하기 위한 자율 규제안에 대해, 산업계가 이를 준수하기 위한 유인 및 일부 실행 내용의 보완이 필요하다는 지적이 제기됐다.

방송통신위원회는 20일 이같은 자율규제안으로 'AI 기반 추천 서비스 이용자 보호를 위한 기본 원칙'을 발표하고, 공개 토론회를 진행했다.

이날 발표된 기본원칙은 디지털 미디어 플랫폼 내 AI 기반 추천 서비스 제공자에 권고되는 자율 실천 규범이다.

투명성, 공정성, 책무성을 지향하는 가치로 두고 콘텐츠 산업계가 준수해야 할 다양한 실행 원칙을 제시했다. ▲이용자에게 콘텐츠 배열 기준 및 적용 여부를 수정·변경할 수 있는 기능 제공 ▲추천 서비스가 이용자에게 미치는 영향을 평가하는 자율검증 체계 구성 ▲현행법과 기업 윤리, AI 윤리 등을 감안한 추천 서비스 사용·관리에 대한 내부 규칙 제정 및 공개 등의 내용이 포함됐다.

이에 대해 윤혜선 한양대 법학전문대학원 교수는 규제 준수에 따른 인센티브가 존재해야 사업자들이 해당 원칙을 적극적으로 수용할 수 있다고 지적했다.

윤혜선 한양대 교수는 "유럽 일반 개인정보보호법(GDPR)의 경우 사업자로 하여금 개인정보 영향 평가를 수행하도록 하는 동시에 자발적으로 이를 할 수 있도록 계도하고 있다"며 "개인정보 영향 평가는 사업자 입장에선 규제 준수 체계를 구축하고 있다는 증거 자료로 쓸 수 있고, 관련 법적 분쟁이 발생했을 때에도 유리하게 작용할 자료가 될 수 있어 일종의 인센티브로 제공이 되고 있다"고 설명했다.

그러면서 "현 상황에서는 다국적 기업이나 국내 기업 중심으로 AI 윤리 원칙이나 행동강령, 투명성 원칙 등이 발표되고 있는데 이는 기업 스스로 AI 서비스에 대한 소비자 신뢰 확보하도록 노력 경쟁적으로 기울이고 있다는 것을 뜻한다"며 "플랫폼 사업자가 원칙을 자발적으로 준수할 인센티브를 마련할 필요가 있다"고 덧붙였다.

AI 기반 추천 서비스를 개발하는 입장에서 이번 원칙을 따르기에 어려운 부분이 있다는 토로도 등장했다.

박정석 KT 팀장은 "기본 원칙에는 이견이 없지만, 추천 서비스를 만드는 엔지니어 입장에서 몇 가지 언급할 부분이 있다"고 말을 꺼냈다.

박 팀장은 "사용자를 유사 그룹으로 나눠 해당 그룹의 니즈에 따라 콘텐츠를 추천하는 모델이 사용되고 있는데, 여기에 '공정성'을 고려한 콘텐츠 추천이란 과연 어떤 것인지 검토를 해볼 필요가 있다"고 지적했다.

추천되는 콘텐츠에 대한 윤리 논란도 언급했다. 박 팀장은 "가령 폭력성이 짙은 콘텐츠를 많이 본 사용자에게 유사한 콘텐츠를 계속 제공하면 문제가 있다고 볼 수 있는 건지 애매한 측면이 있다"며 "성인인 사용자가 콘텐츠 추천 서비스에 매월 비용을 지불하고 있는 경우 선호하는 콘텐츠를 찾아내 추천하는 것에 문제 제기를 할 수 있는 것인지, 또 폭력성이 짙으면서 예술성을 인정받은 작품은 어떻게 판단해야 하는지에 대한 문제도 있다"고 말했다.

이용자가 콘텐츠 배열 기준을 선택할 수 있게 해야 한다는 내용에 대해서도 실 서비스로 제공하기 어려운 측면이 있다고 호소했다. 박 팀장은 "현재 AI 기반 콘텐츠 추천 시스템은 알고리즘은 단일하고, 여기에 반영되는 매개 변수가 달라지면서 추천되는 콘텐츠들이 달라지는 방식"이라며 "EU의 경우 매개 변수를 임의로 설정할 수 있게 하는 방식을 제안하고 있는데 그런 방식이라면 서비스에 적용이 가능할 것"이라고 했다.