애플, 아이폰서 아동 성범죄 사진 가려낸다…iOS15에 적용

애플이 향후 아이폰, 아이패드, 맥 소프트웨어 업데이트에 아동 성범죄 관련 사진을 식별하는 기능을 탑재할 것이라고 씨넷, 더버지 등 주요 외신들이 5일(이하 현지시간) 보도했다.

애플은 이날 웹 사이트를 통해 올 가을 정식 출시하게 될 iOS15, 아이패드OS15, 맥OS 몬터레이, 워치OS8 등 새 운영체제에 아동 성범죄 사진을 탐지하는 기능을 추가할 것이라고 밝혔다. 

(사진=씨넷)

뉴럴매치라는 이름의 이 기능은 인공지능(AI) 기술을 활용해 아이폰에 저장된 이미지 중 아동 성적 학대로 의심되는 이미지를 포착한 다음 위법성을 적발하면 법 집행 기관에 연락하는 방식으로 운영된다. 이는 이미지에만 적용되고 영상은 적용되지 않는다. 아이폰에 저장된 사진을 아이클라우드에 올리려고 할 때 뉴럴매치가 가동된다.

새로운 프로그램은 아동 성착취 자료의 확산을 제한하기 위해 아동 안전 전문가들과 협력해 설계됐다고 애플은 설명했다.

씨넷은 아이폰 사진이 아이클라우드에 백업되기 전 아이폰에서 스캔을 수행하고, 프로그램이 아동성착취 이미지로 확인된 경우 해당 사진을 애플 담당자와 공유해 조치가 가능하다고 전했다.

아동 성범죄 관련 사진이 감지되면 어린이와 부모에게 경고하게 된다. (사진=애플)

해당 프로그램은 사용자가 아동 성착취 관련 주제를 시리나 검색 엔진을 통해 찾으려 할 때도 개입하게 되며, 메시지 앱을 통해 아동 성범죄 관련 사진을 보내거나 받는 경우 부모와 자녀 모두에게 경고 메시지를 보내는 기능도 있다. 애플은 이 시스템이 자동화되어 있으며 "사용자 개인 정보를 염두에 두고 설계"되었다고 밝혔다.

일부에서는 아동 성범죄에 대한 애플의 노력에 박수를 보냈지만, 일부에서는 사생활 침해 여지가 있다고 지적했다.

암호화 기술을 연구하고 있는 존스홉킨스 대학 매튜 그린 교수는 "애플이 이러한 도구의 오용을 허용하지 않을 것이라고 믿는다 해도, 여전히 우려해야 할 점이 많다"고 밝혔다.

IT 대기업은 최근 아동 성범죄를 근절하기 위해 사용자가 올리는 사진의 모니터링을 강화하고 있다. 페이스북과 트위터는 국립실종·착취아동센터(NCMEC) 등과의 조직과 협력해 SNS에서 아동을 성적 대상화 하는 콘텐츠를 모니터링해 계정을 폐쇄하고 있으며, 마이크로소프트와 구글도 이와 유사한 기술을 사용해 이메일 및 검색 결과에서 이런 사진을 식별하고 있다.