MS, AI 윤리 어긋난 앱 '얼굴인식 API' 접근 차단

마이크로소프트가 윤리적 AI 표준을 충족하기 위해 '얼굴 인식' 기술 서비스 접근을 제한하고, 일부 기능은 아예 중단한다. 얼굴 인식 AI를 이용하려는 클라우드 고객의 애플리케이션을 심사해 윤리 기준을 충족하지 못한 경우 서비스 접근을 차단할 예정이다. 

21일(현지시간) 미국 지디넷에 따르면, 마이크로소프트는 클라우드 AI 서비스의 윤리 AI 가이드라인 충족을 보증하기 위해 일부 기능을 제거하고 있다.

21일부터 신규 사용자는 마이크로소프트 애저의 얼굴인식 기능 일부에 접근할 수 없고, 올해 안에 기존 사용자도 삭제되는 기능을 쓸 수 없다.

마이크로소프트는 21일부터 신규 사용자의 얼굴 인식 기능접근 경로를 '애저 페이스 API', '컴퓨터 비전', '비디오 인덱서' 등으로 제한했다. 기존 이용자는 승인을 거쳐 1년 간 종전의 모든 얼굴 인식 기능에 접근할 수 있다. 단, 2023년 6월30일부터 얼굴 인식 관련 서비스의 경우 애플리케이션을 마이크로소프트에 사전 제출하게 하고, '윤리 AI 표준' 심사를 통해 요건을 충족하지 못한 애플리케이션의 '얼굴 인식' 기능 이용을 차단한다.

흐림 처리, 노출, 안경, 머리자세, 랜드마크, 노이즈, 폐색 및 얼굴 경계 감지 같은 기능은 별도 애플리케이션을 요구하지 않는다.

마이크로소프트는 성별, 나이, 미소, 수염, 메이크업 등 감정상태와 속성을 유추하게 설계된 얼굴 분석 기능을 제거한다고 밝혔다. 이런 종류의 기능이 개인정보보호, 합의된 정의의 부족, 연관성을 일반화할 수 없는 것 등에 대한 의문을 낳는다고 설명했다.

마이크로소프트는 "이런 종류의 기능은 더 쉽게 오용되고, 고정관련, 차별문제, 불공정한 서비스 거부 등을 유발할 수 있다"고 밝혔다.

성별, 나이, 미소, 수염, 메이크업 등 감정상태와 속성을 유추하게 설계된 얼굴 분석 기능은 21일부터 신규 이용자에게 제한되며, 2023년 6월30일부터 기존 사용자도 쓸 수 없다.

다만, 장애를 가진 사용자를 위해 제공되는 서비스에 한해 허용한다.

마이크로소프트는 자사 고객에게 오픈소스 '공정성 학습(Fairlearn)' 패키지와 자사의 공정성 대시보드 같은 도구 및 리소스를 사용해 '애저 코그니티브 서비스'를 공정하게 잘 사용할 수 있는 방법을 안내하고 있다. 또한 얼굴색, 흐림 및 기타 이미지 품질 문제로 특정 인구통계그룹에 더 많은 영향을 미칠 수 있는 잠재적 문제를 표시하는 새로운 '인식 품질 프로그래밍 인터페이스'를 보유했다고 마이크로소프트트 측은 설명했다.