아동 성범죄 근절 목적이라지만 AI가 내 사진첩 뒤져도 될까

애플이 아이클라우드에 등록된 이미지들을 인공지능(AI) 기술로 분석해 아동 성범죄 사진을 걸러내겠다는 방침을 발표하자 프라이버시를 과도하게 침해한다는 비판이 일각에서 제기되고 있다.

애플은 지난 7일 이같은 정책을 발표했다. 발표한 정책에 따르면 아이클라우드에 업로드된 이미지는 AI를 통해 아동 성범죄 관련 이미지 해시가 포함된 데이터베이스(DB)와 비교 분석된다. 이 분석은 기기 내에서 이뤄지며, 암호화된 상태로 실행된다. 아동 성범죄 사진으로 분류될 경우 당국에 보고된다.

이런 AI 분석은 13세 미만인 이용자가 메시지로 음란물을 받거나 전송할 경우 부모에게 경고문이 발송하는 목적으로도 활용된다. 13세 미만 이용자가 아동 성범죄 관련 주제를 검색할 때도 애플 AI 비서 '시리'와 검색 기능이 개입하게 된다.

애플은 이 기능을 연말 iOS 15, 아이패드OS 15, 워치OS 8, 맥OS 몬터레이에 탑재한다는 방침이다.

그러나 애플의 이번 정책을 반대하는 목소리가 잇따라 나타나고 있다. AI로 이용자 기기 내 콘텐츠를 탐색하는 것이 과도한 프라이버시 침해, 정부기관의 악용 소지 등의 결과를 초래할 수 있다는 우려에서다.

왓츠앱 총괄책임자인 윌 캐스카트는 애플의 이번 정책에서 드러난 접근 방식이 매우 우려스럽다며, 왓츠앱은 이런 조치를 채택하지 않을 것이라는 입장을 자신의 트위터를 통해 밝혔다. 왓츠앱은 사용자 보고 중 일부를 사용하는 아동 착취 근절 시스템을 통해 아동 착취 사례 40만건 이상을 당국에 보고했다는 점도 같이 언급했다.

왓츠앱의 경우 특히 애플의 이번 정책에 즉각적으로 반대 입장을 내놓을 만한 배경이 있다. 왓츠앱 모회사인 페이스북과 애플이 이용자 프라이버시에 관해 갈등을 빚고 있기 때문이다.

지난 4월말 애플은 맞춤형 광고를 제공하려면 이용자 동의를 받아야 한다는 정책을 iOS 14.5부터 적용했다. 광고업체가 이용자 모르게 정보를 추적, 활용하는 것을 막는다는 취지였다.

맞춤형 광고가 주된 수익원인 페이스북 입장에선 광고 효과 감소가 예상됨에 따라 애플의 정책에 반발했다. 실제로 정책 도입 이후 맞춤형 광고 수용률이 4%에 그쳤다는 조사 결과도 등장했다. 이런 와중에 애플이 이용자 프라이버시 보호와 반대되는 정책을 내놓은 것이다.

매튜 그린 존스홉킨스대 부교수도 아이클라우드 이미지 AI 분석에 대해 반대 의견을 냈다. 검열 대상이 아이클라우드에 등록된 이미지에서 더 나아가 암호화된 메시지 시스템으로도 확장될 가능성이 있다고 봤다.

그린 교수는 트위터를 통해 "전세계 법 집행기관들이 이런 검열 시스템을 종단 간 암호화(E2E) 메시지 시스템에 추가 적용하는 것을 요청해왔다"며 "이런 도구는 휴대폰에서 아동 성범죄물을 찾는 데에 도움이 될 수 있으나, 권위적인 정부기관이 이런 권한을 갖게 되면 어떤 일이 일어날지 상상해보라"고 지적했다.

비교분석 수단이 되는 아동 성범죄물 해시 DB를 소비자가 검토할 수 없다는 것도 우려점으로 짚었다. 아동 성범죄물이 아닌데도 아동 성범죄물의 해시가 충돌될 가능성이 있다는 것. 가령 정치적인 내용의 이미지를 전송받았는데, 아동 성범죄물과 해시가 충돌한다는 이유로 당국에 보고될 가능성이 있다는 설명이다.

시민단체들도 반대 의견을 같이 했다. 기술 및 민주주의 센터(CDT) 이사인 그렉 노자임은 "애플은 업계 표준인 E2E 메시지 시스템을 감시 및 검열 목적의 인프라로 교체하고 있다"며 "미국뿐만 아니라 전세계에서 이 시스템이 남용 및 확대되기 쉬울 것"이라고 입장을 밝혔다.

CDT는 메시지 시스템 상의 이미지 스캔이 결국 그간 당국이 요청해왔던 '백도어'를 만드는 것과 다름없다고 주장했다.

미국 정보인권단체인 전자프론티어재단(EFF)도 비슷한 입장의 성명문을 발표하면서 "애플이 기기 상에서 머신러닝을 사용해 메시지 내용을 스캔한다는 건 더 이상 아이메시지를 E2E라고 말할 수 없다는 것"이라고 비판했다.