MS "AI 출발점, 인권이 최우선 순위여야"

[ATS2018]MS 스티븐 크라운 인권자문 부사장

“인공지능(AI) 기술은 0과 1로 구성된 단순한 숫자가 아니다. 전세계적으로 적용되는 큰 영향력을 가진 기술이다. 이 기술은 매우 빠르게 성장하고, 또 강력하게 영향을 미치고 있다. 인류가 합심해서 AI가 인간의 경험을 개선하는 올바른 목적에 쓰이도록 노력해야 한다.”

마이크로소프트 스티븐 A, 크라운 인권 법률 자문 담당 부사장은 12일 서울 포시즌스호텔에서 열린 지디넷코리아 ‘아시아테크서밋(ATS) 2018’ 기조연설에서 이같이 밝혔다.

크라운 부사장은 ‘AI를 위한 윤리: 기본적인 원칙과 국제 표준’을 주제로 발표했다.

스티브 크라운 마이크로소프트 부사장

그는 “AI는 해충 DNA를 분석해 전염병 확산을 차단하고, 안면인식 기술로 장애를 가진 사람의 삶을 개선할 수 있다”며 “반면, 사람의 합법적 일상을 감시하는 식의 리스크도 갖고 있다”고 말했다.

마이크로소프트는 AI 기술의 가파른 발전 속에서 무제한적 시도에 제동을 걸고 있다. AI가 차별, 인권침해, 폭력 등에 활용되면 예측불가능한 비극을 나을 수 있다는 우려다. 무한한 가능성을 가진 기술인 만큼 초기단계부터 올바른 방향성을 설정해야 한다는 입장을 취한다.

마이크로소프트는 이에 인도주의를 위한 AI란 5개년 계획를 세웠다. 향후 5년간 4천만달러를 투입해 재해복구, 소외아동 지원, 난민 및 이재민 지원, 인권 보호 등의 프로젝트를 진행한다.

그는 “AI 자체는 선도 악도 아닌 수학일 뿐인 기술적 솔루션이지만, 사용하는 사람에 따라 선하게 쓰일 수도, 악하게 쓰일 수도 있다”며 “AI윤리, 그리고 인권을 위한 기본 원칙과 글로벌 규범은 선택이 아니라 반드시 확보해야 할 것”이라고 강조했다.

윤리, 규범 등은 지리적, 사회적, 문화적 차이에 따라 달라지는 영역이다. 전세계적으로 통용되는 AI 윤리를 만들어내려면 인류적 공감대 형성이 필요하다. 공감의 범위와 폭이 커야 하는 만큼 명확한 표준을 정의하기까지 힘든 과정을 거쳐야 한다.

마이크로소프트는 AI 윤리를 위한 글로벌 규범으로 이미 존재하는 ‘국제 인권법’을 기반하자고 한다. 국제연합(UN) 인권선언은 193개국에서 비준된 윤리 원칙인 만큼 Ai 윤리 마련에도 토대를 이룰 수 있다는 것이다.

그는 “올해로 70주년을 맞은 UN 인권선언은 책임있는 행동을 판단하는 기준이며, 193개 UN 회원국에서 인정한 규범”이라며 “인권선언의 가치는 UN의 모든 협약에 반영되며, 전세계 커뮤니티에서 지지하는 보편적 가치로서 기준점 역할을 하고 있다”고 말했다.

그는 “UN 인권선언에 담긴 여러 권리는 AI와 관련된다”며 “인권선언 1조는 기본적으로 모든 사람이 절대적으로 평등하며, 존엄성과 권리를 갖는다는 것인데, 이는 AI에게 매우 의미있는 것”이라고 강조했다.

UN은 비즈니스와 인간의 권리에 대한 원칙 가이던스를 제시하고 있다. 인권을 위한 프레임워크로서 보호, 존중, 구제 등으로 구성됐다. 이를 참고하면, AI는 인간의 권리를 존중하고, 인권을 침해하지 않아야 하며, 피해자를 구제하는데 쓰여야 한다.

마이크로소프트는 AI 윤리를 마련하기 위한 다양한 활동을 하고 있다. 올해초 ‘더 퓨처 컴퓨티드(The future computed)’란 책을 출간했다. 무료로 배포되는 이 책은 마이크로소프트에서 제시하는 AI 윤리 프레임워크를 담았다.

마이크로소프트는 AI 기술 관련 6가지 윤리적 원칙(ethical principles)을 정의했다.

공정성(Fairness), 포괄성(Inclusiveness), 안정성 및 안전(Reliability & Safety), 투명성(Transparency), 프라이버시 및 보안(Privacy & Security), 책임성(Accountability) 등이다. 마이크로소프트는 이 원칙을 정부, 학계, 기업, 시민사회의 AI 기술 개발과 활용에 적용해야 한다고 강조한다.

6가지 윤리원칙은 AI 기술과 솔루션의 신뢰 구축을 위한 경로를 담는다. 제1원칙은 책임성이다. 문제발생 후 제작자의 책임보다 AI가 갖춰야 할 알고리즘적 책임(algorithmic accountability)을 뜻한다. 다음 원칙은 투명성으로 무엇을 하려는지 설명 가능하고, 검증과 테스트해서 신뢰할 수 있어야 한다는 것이다.

다음은 공정성으로 데이터 학습에서 편향을 줄이는 노력을 뜻한다. 네번째는 안정성과 안전으로 어떤 상황에서든 인간에게 안전해야 한다는 것이다. 다섯번째는 프라이버시와 보안다. AI 개발에 들어가는 데이터 입력이 프라이버시를 준수하는 방식으로 이뤄져야 하고, 외부 공격에서 안전해야 한다는 내용이다. 여섯번째는 공정성으로 모든 인종, 종교, 지역, 취약계층과 소외계층에게 동등하게 제공돼야 한다는 원칙이다.

지난 6일 마이크로소프트는 안면인식 기술에 대한 정부 규제를 촉구하는 블로그를 올리기도 했다. 내년 각국의 정부가 안면인식 기술 법규를 신설할 것과, 기업체가 법규 신설 전에 선제적인 행동을 취하라고 촉구했다.

크라운 부사장은 “이 블로그는 단순한 가치선언이 아니라 실용적 의미를 가진 마이크로소프트의 공식적 입장”이라며 “민주적 자유의 보장이란 1번 선언부터 시작해 인권존중과 법치, 존업성을 얼마나 진지하게 임하는지 마이크로소프트의 자세를 보여준다”고 설명했다.

그는 “AI란 긴 여정의 출발점에서, 윤리, 혹은 인권은 최우선순위여야 한다”며 “시행착오를 겪으며 개선하고, 더 나은 세상을 만들어가기 위해 모두 협력해야 한다”고 강조했다.