'AI 알고리즘 규제' 선언 FTC, 구글·페북도 손볼까

[김익현의 미디어 읽기] AI도 경제정의 관점으로 접근

아마존은 3년 전 인공지능(AI) 채용시스템 도입을 포기한 적 있다. 여성 차별 문제가 드러난 때문이다. 소프트웨어 개발자 같은 직군 지원자 이력서에 ‘여성’이란 단어가 들어가면 감점 처리했다. 여자대학 졸업자에게 불이익을 준 사례도 있다.

흔히 AI는 가치 중립적인 기술이라고 생각한다. 하지만 아마존 사례는 '겉보기엔 중립적인' AI 기술이 얼마나 많은 차별을 야기할 가능성이 있는지 잘 보여준다.

이처럼 AI 알고리즘의 편향성 문제가 계속 제기되고 있다. 백인, 남성 위주 이데올로기가 AI 알고리즘에 강하게 녹아들어 있다는 비판도 만만치 않다. 

(사진=FTC)

미국의 대표적인 규제기관인 연방거래위원회(FTC)가 이 문제에 칼날을 겨뤘다. FTC는 19일(현지시간) 공식 블로그에 올린 '기업 AI 사용의 진실과 공정성, 그리고 평등을 위하여’란 글을 통해 대대적인 알고리즘 규제를 예고했다.

■ "알고리즘 편향은 경제정의 문제" 

FTC가 AI 알고리즘 문제에 관심을 보인 것은 이번이 처음은 아니다. 지난 2020년엔 ‘AI 및 알고리즘 사용(Using artificial intelligence and algorithm)’이란 보고서를 통해 5대 지침을 제시했다.

- 투명성: 민감한 데이터 수집 때 투명하게 공개하고 소비자를 기만하지 말 것.

- 설명가능성: 결정에 대한 구체적인 이유 설명하고 영향을 미친 요인 공개.

- 공정성: 인종, 종교, 국적, 성별에 따른 차별 금지. 공정한 결과 보장.

- 견고성 및 실증적 타당성: 정보의 정확성과 최신성을 유지할 것. 이와 관련한 명문화된 정책과 절차 마련.

- 책임성: 대표성, 편향성 보정 가능성에 대한 자가 점검 실시 의무화. 무단이용이나 악용 가능성 차단.

FTC는 ‘5대 지침’을 내놓은 지 2년 만에 기업들의 AI 알고리즘 이용 실태를 좀 더 정밀하게 점검하겠다고 선언했다. 이날 공개한 문건에서 FTC는 “겉보기엔 중립적으로 보이는 AI가 인종차별 같은 심각한 문제를 야기할 수도 있다”고 경고했다.

잘 아는대로 FTC는 각종 불공정거래와 독점 행위로 인한 소비자 피해 방지에 초점을 맞추고 있는 기관이다. 이 기관이 AI 알고리즘 적용 실태를 점검하겠다고 나선 것이 어색해 보일 수도 있다.

하지만 편향된 AI 알고리즘이 불평등을 야기하는 상황이 위험 수위에 이르렀다는 게 FTC의 판단이다.

레베카 슬로터 FTC 위원장 대행

레베카 슬로터 FTC 위원장 대행은 최근 IT 전문매체 프로토콜과 인터뷰에서 “알고리즘 편향은 경제 정의 문제”라고 규정하기도 했다. 편향된 알고리즘을 토대로 내린 의사 결정이 유색인종에게 불이익을 주는 사례가 적지 않다는 것이다.

FTC는 지난 수 십 년 동안 AI 이용자와 개발자들에게 세 가지 중요한 법을 집행한 경험도 있다고 강조했다.

- FTC법 5조: 불공정하거나 기만적인 행위 금지. 인종적으로 편향된 알고리즘 판매나 사용도 이 규정 위반에 해당될 수 있다.

- 공정신용정보법(FCRA): 알고리즘이 채용, 주택 공급, 신용, 보험, 기타 혜택을 거부하는 데 사용될 경우에 적용.

- 신용기회균등법(ECOA): 기업들이 편향된 알고리즘을 사용해 인종, 피부색, 종교, 국적, 성별, 결혼 여부, 나이 등에 따라 신용 차별을 둘 때 적용.

■ "FTC가 경고사격했다"…리나 칸 등 강경파 활약에 관심 

AI 시대의 도래와 함께 새로운 규범이 필요하다는 지적이 끊이지 않았다. AI가 초래할 사회 불평등과 인간소외 문제에 대한 경고도 적지 않게 제기됐다. 유럽연합(EU)에서는 AI와 함께 살아가기 위한 법률 마련 작업도 본격 진행하고 있다.

이런 가운데 미국 FTC가 "AI 알고리즘은 경제정의 문제"라고 선언한 것은 의미 있는 행보로 받아들여진다. FTC가 새롭게 떠오르는 기술을 제대로 들여다보겠다는 의미이기 때문이다. 워싱턴대학 로스쿨의 라이런 칼로 교수가 트위터를 통해 ‘경고 사격(shot across the bow)’이라고 평가하기도 했다.

‘실물거래의 저승사자’ FTC는 AI와 알고리즘 규제에서도 그 명성을 이어갈 수 있을까? 관건은 구글, 페이스북, 아마존 같은 거대 IT 기업들과의 승부에 달려 있다.

‘AI와 알고리즘 규제’를 선언한 FTC는 GAFA(구글, 아마존, 페이스북, 애플)를 상대로도 의미 있는 칼날을 휘두를 수 있을까?

리나 칸 FTC 위원 지명자

그 동안의 행보만 놓고 보면 선뜻 기대하기 힘들다. 하지만 바이든 행정부 출범 이후 짜여진 예사롭지 않은 진용을 보면 ‘AI 알고리즘 규제’에 대한 의미 있는 성과가 나올 수 있겠다는 생각을 해 보게 된다.

특히 최근 FTC 위원으로 지명된 리나 칸 등에게 거는 기대는 적지 않다. ‘아마존의 반독점 역설(Amazon’s Antitrust Paradox)’이란 논문으로 유명한 리나 칸은 GAFA에겐 저승사자로 통하는 인물이다.

IT전문매체 더버지에 따르면 로힛 초프라 FTC 위원은 이날 상원 청문회에서 “대기업들이 노골적으로 법을 위반했을 때는 FTC가 책임있는 조치를 취하는데 소극적이었다”고 비판했다. 그러면서 FTC의 인지된 무력증을 끝내야만 한다고 촉구하기도 했다.

공교롭게도 리나 칸은 로힛 초프라의 법률 보좌관으로 활동한 이력도 있다. 초프라는 현재 금융소비자보호국(CFPB) 국장에 내정된 상태다.