인공지능 사진 앱, 인종차별 논란 휘말려…왜?

인공지능 기술을 사용해 사진을 편집하는 앱 ‘페이스앱’이 인종차별 논란에 휘말렸다.

IT매체 테크크런치는 신경망 네트워크(neural networks)를 사용해 사용자의 사진을 편집해 주는 페이스앱(Face App)이 인종차별적 서비스를 제공해 CEO가 사과에 나섰다고 25일(현지시간) 보도했다.

페이스앱은 얼굴 사진을 업로드하면 여러 가지 효과로 사진을 보정해 주는 앱으로, 사람의 뇌를 모방한 신경망 네트워크를 활용해 빅데이터를 학습하고 분석해 사진을 수정해 준다.

이 앱을 사용하면 나이들어 보이는 사진을 조금 더 어리게 할 수도, 성별까지 바꿀 수도 있다.

이번에 문제가 된 기능은 ‘인기(hotness)’라는 필터로 이 효과를 선택해 사진을 보정하면 피부 톤이 좀더 하얗게 표현된다.

바로 위 사진은 해당 필터로 오바마 전 대통령 사진을 수정한 것이다.

해당 논란에 대해 페이스앱의 설립자이자 CEO인 야로슬라브 곤차로프(Yaroslav Goncharov)는 "우리는 의심의 여지가 없이 심각한 이슈에 대해 깊이 사과한다. 이는 의도된 행동이 아니라, 불행하게도 특정 성향을 학습하는 근본적인 신경망 네트워크의 부작용"이라고 사과했다.

그는 또 이 문제를 완화하기 위해 해당 필터 이름을 긍정적인 의미를 배제한 이름으로 바꾸고 해당 알고리즘을 수정할 것이라고 덧붙였다.

페이스앱은 인공지능을 통해 얼굴을 좀더 젊게 바꿔주고 성별도 바꿔준다. (사진=씨넷)

페이스앱이 제공하는 필터에는 구글 텐서플로어 같은 공개소스 코드 라이브러리 등이 사용되고 있다.

하지만, 곤차로프 CEO는 이번에 논란이 된 인기 필터는 공용 데이터 세트가 아닌 자체 개발 데이터 세트가 사용됐다고 밝혔다.

현재 페이스앱은 이 필터의 이름을 ‘스파크(Spark)’로 바꿨다. 현재 페이스앱은 하루 약 70만의 사용자들이 다운로드 받고 있다고 테크크런치는 전했다.

테크크런치는 이 사건이 인공지능 알고리즘이 인간의 지식과 정보, 빅데이터만 학습하는 것이 아닌 인간의 편견까지 학습할 수 있는 편향적 위험에 노출될 수 있음을 보여주는 사례라고 전했다.

또, 페이스앱은 AI 알고리즘 개발을 위해 다양한 데이터 세트를 활용해 학습시키지 않은 점을 지적하며, 향후 인공지능 기반 시스템이 점점 확대됨에 따라 알고리즘의 책임성에 대한 심도 있는 연구가 필요하며 인간의 편견이 시스템에 추가하는 것을 방지하기 위해 좀더 견고한 시스템을 개발해야 한다고 테크크런치는 평했다.