MS "정부가 안면인식 기술 규제해야"

브래드 스미스(Brad Smith) 마이크로소프트(MS) 사장이 6일(현지시간) 미국 워싱턴 D.C. 소재 ‘브루킹스 연구소(Brookings Institution)’ 연설을 통해 정부의 안면 기술 규제를 촉구했다.

MS는 앞서 지난 7월 미국 정부에 안면인식 기술에 대한 정부 규제 및 조치 마련을 촉구하고 이후 학계, 업계 관계자들과 논의를 진행했다. 이번 스미스 사장의 연설은 그 연장이다. 잠재 문제에 대한 보호장치 없이 기술 발전을 추진할 경우 기술의 남용을 통제할 시기를 놓칠 수 있어, 이제 연구와 토론을 넘어 행동을 취해야 할 때라는 메시지가 핵심이었다.

MS는 안면인식 기술이 다양한 사업기회와 사회적 이익을 창출하는 기술이라는 점을 인정한다. 세계 각지에서 안면인식 기술로 사회문제를 해결하고 비즈니스 운영을 개선하는 분야에 적용하고 있다. 인도 뉴델리 경찰은 안면인식 기술을 활용해 4일간 실종된 어린이 3천여명의 신원을 파악했다. 미국 역사학자들은 1860년대 남북전쟁 당시 사진속 인물의 신원을 확인했다. 의학계에선 안면인식 소프트웨어를 통해 아프리카인, 아시아인, 라틴아메리카인의 희귀유전질환을 진단했다. 호주국립은행은 안면인식으로 사용 가능한 현금자동입출금기를 도입했다.

마이크로소프트는 안면인식 기술에 대한 정부 차원의 규제와 법률 제정이 필요하다며 기술 개발 및 사용원칙 6가지를 제안했다.

MS는 이런 기회와 동시에 잠재 사용위험에 경각심을 갖고 안면인식 기술개발 방향성을 지속 확인해야 한다는 입장이다. 특히 정부가 노력해야 할 문제로 사회적 편견 조장, 프라이버시 침해, 민주주의의 자유 및 인권 침해, 3가지를 꼽았다. 문제를 해결할 수단은 법률이라고 주장했다.

안면인식 기술은 어떻게 사회적 편견과 차별을 조장할 수 있을까. MS에 따르면 안면인식기술은 여성과 유색인종을 대상으로 높은 오류율을 보인다. 특정 용도로 사용될 때 편향된 의사결정에 따른 사회적 차별을 조장할 가능성이 높다.

MS는 편견과 차별을 방지하기 위해 기술의 역할과 한계를 문서화해야 한다고 지적했다. 투명성을 보장하고 공인 기관을 통한 검증과 비교로 기술의 정확성과 공정성을 입증하자고 제안했다. 더불어 신체적, 정신적 위험과 사생활, 인권, 자유에 영향을 줄 수 있는 최종결정을 내리기 전에 '의미 있는 인간 검수(meaningful human review)'가 필요하다고 강조했다.

MS는 안면인식 기술이 널리 보급돼 새로운 방식으로 사람들의 프라이버시를 침해할 수 있다고 경고했다. 예를 들어 공공시설이나 장소에 설치한 카메라를 클라우드와 연결해 실시간으로 사람들을 감시할 수 있다. 예를 들어 쇼핑 목적으로 들른 백화점 방문객이 들어서는 순간 카메라가 촬영할뿐아니라 컴퓨터를 통해 그가 누군지 인식하게 된다. 매장을 방문하거나 물건을 구입하는동안 카메라는 그를 계속 추적할 것이다. 이 정보를 모든 매장이 공유하면 향후 그가 재방문했을 때 어느 매장에서 어떤 물건을 구입할지 예상할 수 있게 된다.

MS 입장은 백화점같은 상업시설이 이 기술을 사용하면 안 된다는 것이 아니다. 회사측은 오히려 이런 기술을 이용해 고객에 더 나은 서비스를 제공할 수 있도록 많은 기업들과 협력하고 있다. 다만 고객들은 이런 기술이 언제 어디서 사용되고 있는지 알아야하고 선택권을 가질 수 있어야 한다는 지적이다. 기업들이 고객에게 안면인식기술이 사용되고 있음을 항상 공지하고 기술 사용에 대한 동의를 구해 고객 프라이버시 보호 책임을 다해야 한다는 설명이다.

정부가 안면인식 기술을 사용하면 사람들의 자유와 인권을 침해할 가능성도 배제할 수 없다. 정부는 안면인식 기술을 치안유지와 같은 공공서비스에 활용한다. 수많은 카메라, 대규모 컴퓨터 연산, 클라우드를 무분별하게 활용하면 정부는 안면인식 기술로 특정인물뿐아니라 대중을 지속적으로 감시하는 용도로 사용할 수 있다. 치안 유지와 같은 공공서비스에 활용할 수도 있지만, 조지 오웰의 소설 '1984'처럼 인간을 통제하는 그림이 실현될 수도 있다.

정부의 안면인식 기술 사용으로 사람들이 자유롭게 모여 토론하고 의사를 표현할 권리를 보장하는 민주주의를 훼손할 우려가 제기된다. MS는 이를 방지하려면 정부의 특정인물에 대한 지속적 감시를 제한해야 한다고 지적했다. 사법기관이 법원 명령을 받았을 경우에 한해 공공장소에서만 감시를 하도록 허용하고 긴급 상황이거나 사망 또는 신체적 상해 위험이 있을 경우에만 감시가 가능하게 해야 한다는 설명이다.