구글, 'AI 윤리' 연구자 해고 논란…진실은?

'편향성' 지적한 팀닛 게브루 해고 사태 확산

구글이 한 유능한 인공지능(AI) 연구자를 해고한 뒤 호된 비판을 받고 있다. 해고된 연구자가 AI 분야에서 드문 흑인 여성이란 점과 맞물려 논란이 더 커지고 있다.

에티오피아 출신 여성 엔지니어 팀닛 게브루 (Timnit Gebru)는 지난 3일(현지시간) “제프 딘으로부터 해고당했다"는 글을 트위터에 올렸다. 제프 딘은 구글 인공지능 부문 총괄 부사장이다.

이번 사건의 발단은 AI 연구의 한계를 지적한 논문 때문이었다. 게브루는 에밀리 벤더 교수(워싱턴대학) 등과 AI 훈련의 기초가 되는 대규모 언어 모델의 한계를 지적하는 논문을 준비했다.

구글에서 해고된 팀닛 게브루. (사진=게브루 트위터)

논문 제목은 “통계학적 앵무새의 위험에 대하여: 언어 모델은 지나치게 거대해질 수 있는가’다. 공동 연구자는 총 6명. 이 중 게브루를 비롯한 4명이 구글 직원들이다.

문제가 된 논문은 아직 공개되지 않았다. 하지만 MIT테크놀로지리뷰는 공동 연구자인 벤더 교수로부터 논문을 입수해 내용을 요약 소개했다.

AI의 편향성 지적한 논문 발표 놓고 갈등 

MIT테크놀로지리뷰에 따르면 논문은 대규모 언어처리 인공지능 모델의 한계에 대해 비판하고 있다. 이들이 지적한 언어처리 인공지능 모델의 한계는 크게 네 가지다.

첫째. 지나치게 많은 전력을 소모해서 지구 온난화에 악영향을 끼친다.

둘째. 인종차별, 성차별 우려가 크다.

셋째. 인간의 언어를 제대로 이해하지 못하고 그냥 흉내내는 수준에 머물고 있다. 이런 한계 때문에 인간의 언어를 제대로 이해하는 ‘진짜 연구’가 홀대받고 있다.

넷째. 인간을 그럴싸하게 흉내낼 수 있기 때문에 악용될 우려가 많다. 가짜뉴스나 딥페이크가 대표적인 악용 사례다.

공동 연구자로 참여한 게브루는 AI 윤리 분야 전문가다. 2018년엔 얼굴인식 기술이 여성이나 흑인들을 제대로 인식하지 못한다는 사실을 비판한 논문을 발표해 큰 관심을 모았다.

언어처리 인공지능 모델의 두 번째 한계로 지적한 ‘인종차별, 성차별’ 부분의 기초 연구나 다름 없다.

팀닛 게브루를 해고한 제프 딘. (사진=제프 딘 트위터)

AI가 인간의 언어를 제대로 이해하지 못한다는 부분 또한 구글에게는 아픈  지적이다. ‘통계학적 앵무새'란 표현은 대규모 데이터를 기반으로 한 AI 연구의 한계를 잘 지적했기 때문이다.

하지만 요약된 내용만 놓고 보면 특별하게 새로운 비판은 아니다. 그 동안 AI 연구의 한계로 지적된 것들이기 때문이다. 딱히 구글만의 한계를 비판했다고 할 수도 없는 내용들이다.

그러다보니 게브루 해고 건은 더 논란이 커지고 있다. 이 과정에서 게브루가 구글 뿐 아니라 AI 연구계 내에서도 드문 ‘여성+흑인 과학자’란 점까지 맞물리면서 파장이 커지고 있다. CNN에 따르면 구글 직원 중 흑인은 3.7%에 불과하다.

구글 측 "게브루가 먼저 조건부 사직 의사 밝혔다"

MIT테크놀로지에 따르면 제프 딘 부사장이나 탐닛 게브루 두 사람 모두 구체적인 과정에 대해선 입을 열지 않고 있다. 따라서 정확하게 어떤 일이 있었는지는 아직까지 알려지지 않고 있다.

다만 제프 딘이 사내에 보낸 이메일을 통해 두 사람간에 어떤 문제가 있었는지 짐작해볼 순 있다. 이 이메일에서 제프 딘은 “논문이 우리 기준을 충족시키지 못했다”고 주장했다.

딘은 그 근거 중 하나로 “너무 많은 관련 연구를 무시했다”고 지적했다. 대규모 언어모델들이 에너지 효율적인 기술을 활용하고, 인종/성별 편견 문제를 해결한 최근의 많은 연구를 거론하지 않았다고 주장했다.

지나치게 촉박하게 논문 리뷰 신청을 한 부분도 문제였다고 꼬집었다. 제프 딘은 “학회 제출 하루 전에 논문 검토를 요청해 왔다”고 주장했다. 제대로 검토할 시간도 주지 않은 채 빨리 승인해달라고 독촉했다는 것이다.

그는 “우리가 논문을 검토할 때는 학술지들의 동료 검토(peer reivew)에 필적할 정도로 사려 깊고 철저하게 하길 원한다”고 설명했다.

사진=씨넷닷컴

제프 딘 부사장은 특히 게브루가 먼저 '조건부 사직'을 요구해 왔다고 폭로했다. 자신의 논문 검토 과정에서 함께 논의했던 사람을 밝혀달라고 요구했다는 것. 

딘 부사장은 “게브루는 이런 요구를 들어주지 않을 경우엔 구글을 떠나겠다고 통보해왔다"고 밝혔다. 결국 자신은 사직하겠다는 팀닛의 요구를 수용했을 뿐이란 설명이다. 

하지만 논문을 공동 집필한 벤더 교수 생각은 다르다. 

벤더 교수는 MIT테크놀로지리뷰와 인터뷰에서 “자연어 처리 연구 현황을 짚어보는 것이 이번 논문의 목표였다”면서 “장점은 워낙 명확하기 때문에 한 발 물러서서 가능한 단점은 어떤 것들이 이쓸지 질문해보는 것이 특히 중요했다”고 강조했다.

그는 또 ‘관련 연구를 누락했다’는 제프 딘의 지적에 대해서도 비판했다. 벤더 교수는 “참고 문헌이 128개에 이른다”면서 “이건 굉장히 긴 편이다”고 강조했다.

CNN에 따르면 한 때 게브루와 함께 구글 AI윤리 공동팀장을 역임했던 마가렛 미첼은 “공동 팀장이던 팀닛 게브루를 잃은 고통을 제대로 표현할 수 없다”면서 “다른 모든 사람들처럼 나도 충겨글 받았다”는 글을 트위터에 올렸다.

2018년 AI의 편향성에 대한 논문을 공동 집필했던 부오람위니는 “당신이 늘 그랬듯, 나도 항상 당신을 지지한다”는 글을 올렸다.

게브루를 지지하는 움직임도 확산되고 있다. MIT테크놀로지리뷰에 따르면 1천400명 이상의 구글 직원들이 항의 문건에 서명했다. 구글 직원 외에도 1천900명 가량이 게브루를 지지하는 서명에 참여했다.

회사에 불편한 내용 담은 논문 발표, 어떻게 봐야 할까 

촉망받던 AI 연구자인 게브루 해고 사건은 쉽게 가라앉지 않을 전망이다. 양측이 논평을 피하고 있기 때문에 구체적으로 어떤 일이 있었는지 쉽게 평가하기는 힘들다.

물론 전통적인 다른 기업이라면 ‘회사의 기술에 대한 비판’을 담은 논문을 막는 건 특별한 일이 아닐 수도 있다. 하지만 구성원들의 창의성과 자유로운 연구를 강조해 온 구글이기 때문에 이 문제는 꽤 큰 파장을 일으킬 전망이다.

특히 AI 연구의 편향성과 한계를 지적한 논문이 불씨가 됐다는 점은 구글에겐 상당히 아프게 작용할 수도 있을 것 같다.