'얼굴인식' 기술 강자 MS, 제품은 안 만드는 이유

"마이크로소프트(MS)는 얼굴인식 분야에서 전세계적으로도 최고 수준의 기술력을 보유했다고 자부합니다. 반면 그런 기술력을 활용해 제품을 출시한다는 이야기는 많이 들리지 않습니다. 왜일까요. 여기에는 '인공지능(AI) 윤리' 문제가 중요하게 작용했습니다."

조장래 한국MS 전무는 지난 29일 열린 소프트웨어정책연구소(SPRI)가 개최한 '신뢰할 수 있는 AI 구현을 위한 우리 사회의 역할과 과제' 포럼에서 책임감 있고 신뢰 가능한 AI의 중요성에 대해 발표하면서 이같이 언급했다.

MS가 AI에 잠재된 부정적 영향을 중대하게 고려하게 된 가장 큰 계기는 지난 2016년 출시 하루 만에 서비스를 종료한 AI 챗봇 '테이'다. 성차별, 인종차별, 대량학살 옹호 발언 등이 나타나면서 서비스가 중단됐다.

이후 MS는 AI 개발 전 단계에 대해 모니터링과 필요 시 비판을 제기하는 사내 자문 그룹인 '에터 위원회(aether committee)'을 운영하고 있다.

조 전무는 "테이를 통해 MS는 AI는 문화적 맥락을 함께 고려하지 않는다면 한 발짝도 더 나아갈 수 없는 기술이란 깨우침을 얻었다"며 "AI를 설계할 때 가장 중요한 측면 중 하나가 기술이 오용될 모든 가능성을 보완해내는 것이 기술 기업의 의무라고 인식하게 됐다"고 말했다.

AI 기반 얼굴인식 기술의 사업화에 보수적으로 접근하는 이유도 기술이 악용될 수 있다는 우려에 따른 것이다.

조 전무는 "현재 얼굴인식 기술이 시민 감시 등 민주주의가 갖는 가치를 훼손하고, 인권을 유린하는 방식으로 악용되는 경우가 보고되고 있다"며 "MS는 AI 기술을 속도의 문제로 보지 않고, 천천히 나아가는 한이 있더라도 명확한 가이드라인과 좋은 의미를 담은 주제가 있어야 한다고 주장하고 있다"고 설명했다.

그러면서 "AI가 인류를 위한 기술이 되지 못한다면 모두를 '디스토피아'로 몰아넣게 될 것으로 확신한다"며 "매우 느린 걸음으로 가고 있는 이유"라고 덧붙였다.

AI 개발에 대한 핵심적인 질문은 '어떤 것을 만들 수 있는지'가 아닌, '인류를 위해 무엇을 할 수 있는지'라는 주장이다.

이날 조 전무는 책임감 있고, 신뢰 가능한 AI를 구현하기 위한 요건 여섯 가지를 제시했다. 공정성과 신뢰, 안전성, 포용성, 투명성, 책임성이다.

공정성은 AI가 차별적으로 기술의 혜택을 제공하지 말아야 한다는 것이다. 얼굴인식으로 예를 들면 백인에 대해서만 더 높은 정확도를 보이는 등의 사례가 문제될 수 있다.

신뢰와 안전성의 경우 AI가 학습하는 데이터 및 올바른 동작 여부를 지속적으로 모니터링하면서 확보할 수 있는 가치다. 데이터 수집은 공개적으로 이뤄져야 하고, 정보 주체가 정보의 사용 목적을 명확히 인지하고 정보 제공 여부를 선택할 수 있어야 한다. 비식별화도 제대로 처리돼야 한다.

포용성은 특정 집단을 배제하지 않도록 기술을 구현하는 것이다. 조 전무는 "기술 분야의 경우 특히 장애인을 충분히 포용할 수 있도록 고려해야 한다"며 "이런 부분이 빠지면 AI 시대에 또다른 그림자를 만들 수밖에 없다"고 강조했다.

투명성은 AI의 의사결정 방식을 사람이 알 수 있어야 한다는 의미를 담고 있다. 조 전무는 "직원 채용 면접에 쓰이는 AI가 이를 지원하지 못할 경우 공정성 문제로 이어질 수 있다"고 첨언했다.

책임성은 AI의 작동 방식에 대해 책임을 져야 한다는 것을 뜻한다. 기술 개발 기업의 경우 내부 심사위원회 운영 등의 노력을 고려해볼 수 있다.