"챗GPT 급성장 이면에 노동착취 있었다"

시사주간지 타임 보도…"케냐 노동자, 싼 임금 주며 혐오·폭력 콘텐츠에 노출"

급격하게 발전하는 인공지능(AI) 기술 발전의 이면에 노동 착취가 숨겨져 있다는 지적이 제기됐다.

지적한 문제는 AI윤리와 맞닿아 있어 업계 전반에 걸친 논의가 필요할 전망이다.

18일(현지시간) 미국 타임지는 오픈AI와 챗GPT에 대한 아웃소싱 보고서를 발표했다.

(이미지=Pixabay)

보고서에 따르면 오픈AI는 챗GPT의 윤리 기준을 높이기 위한 작업을 하면서 케냐 노동자에게 시간당 2달러 미만의 급여를 지불한 것으로 나타났다. 

업무기간 동안 케냐 노동자들은 아동 성적학대, 자해 등 폭력, 증오, 편견 등 혐오 발언과 관련된 단어에 분류하는 업무를 수행했다. 타임지의 인터뷰에 응한 노동자 4명은 모두 업무로 인해 정신적 피해를 입었다고 밝혔다.

오픈AI가 개발한 챗GPT의 전신은 GPT3는 이미 문맥을 이해하고 사람 수준으로 문장을 작성할 수 있는 능력을 갖췄다. 하지만 학습한 데이터를 그대로 사용하기 때문에 폭력적이고 성차별적이거나 인종차별적인 발언까지 그대로 기술하는 문제가 있었다.

이를 해결하기 위해선 라벨링 작업 등 AI학습 전 전처리 작업을 수행해야 한다. 라벨링 작업은 방대한 데이터가 축적된 데이터세트에서 폭력적이거나 부정적인 데이터나 텍스트를 선별해 해당 내용을 걸러낼 수 있도록 하는 작업이다.

오픈AI에서 수집한 단어는 수천억 개에 달하며, 복잡하고 민감한 요소가 많아 자동화 도구로 모두 걸러낼 수 없어 대규모 수작업이 필수적으로 요구된다.

오픈AI는 문제를 해결하기 위해 아웃소싱 기업 사마AI를 통해 케냐 노동자를 확보하고 데이터세트 라벨링 업무를 맡겼다.

문제는 열악한 노동자의 처우와 AI 발전에도 근본적인 문제는 여전히 남아있다는 점이다.

보고서에 따르면 케냐 노동자는 숙련도, 작업량 등에 따라 시간당 1.32~2달러의 수당을 받았다. 하루 9시간 작업을 했으며 성적 학대, 증오, 편견 등이 담긴 150~250개의 텍스트를 읽고 내용을 분류해야 했다.

상담원이 상주했지만 회사의 무리한 업무 요구로 인해 실질적인 상담 기회는 거의 없었던 것으로 나타났다. 정신적인 질환 위기에도 노동자들이 업무를 지속한 것은 유일한 수입원이었기 때문으로 알려졌다.

보고서에 따르면 초기에는 텍스트 분석만 요구했지만, 지난해 2월 들어 유해한 이미지 분석까지 요구하며 업무는 더욱 힘들어졌다.

결국 이미지 분석 프로젝트 시작 몇 주 만에 직원피해가 늘어나기 시작해 사마AI는 오픈AI와의 예정보다 8개월 앞당겨 계약을 취소했다.

외신들은 사람을 돕기 위해 개발된 AI는 여전히 인적 비용을 요구하며, 윤리적인 AI 구현을 위해선 해당 작업을 하는 노동자의 인권과 처우를 우선시해야 할 것이라고 지적했다.

또한 기업이 새로운 기술을 개발하는 과정에서도 인권과 노동자의 가치를 지킬 수 있는 관행을 검토하고 마련하는 방안이 필요할 것으로 보인다.