美 FTC, 편향된 AI 알고리즘 규제 '경고'

"인종·성별 차별 조장 땐 FTC법 위반 해당"

미국의 대표적인 규제기관인 연방거래위원회(FTC)가 인공지능의 편향성에 대해 경고 메시지를 보냈다.

미국 IT 매체 프로토콜에 따르면 FTC는 20일(현지시간) 공식 블로그를 통해 AI 편향성 문제를 주의 깊게 살피고 있다고 밝혔다. 또 편향된 AI 시스템을 판매하거나 사용할 경우 FTC 법 위반에 해당된다고 경고했다.

FTC는 이 글에서 “FTC법은 불공정, 사기 행위를 금지하고 있다”면서 “인종적으로 편항된 알고리즘을 판매하거나 사용하는 것도 이런 불법 행위에 포함된다”고 강조했다.

(사진=FTC)

구체적인 위반 법규에 명기했다. FTC는 편향된 AI를 사용할 경우 공정신용정보법(FCRA)과 신용기회균등법(ECOA) 위반에 해당될 수 있다고 경고했다.

FCRA는 알고리즘이 특정인의 채용이나 신용, 보험, 혹은 다른 혜택을 거부하는 경우에 적용될 수 있다. 또 ECOA는 어떤 기업이 편향된 알고리즘을 토대로 인종, 피부색, 종교, 국적, 성별, 결혼 여부, 나이 등에 따른 차별을 하는 것을 불법으로 규정하고 있다.

최근 레베카 슬로터 FTC 위원장 대행은 “알고리즘을 토대로 의사결정을 할 대 유색인종에게 불이익을 주고, 그들이 사회에 평등하게 참여할 수 있는 기회에 영향을 미치는 여러 사례를 목격했다”면서 “알고리즘 편향은 경제 정의 문제라고 생각한다”고 밝혔다.

FTC가 공식 블로그를 통해 AI 편향성 문제에 경고 메시지를 보낸 것은 이 같은 행보의 연장선상에서 나온 것으로 풀이된다.