오픈AI·구글 직원 뿔났다…"개발사, 돈에 눈멀어 AI 안전성 뒷전"

"생성형 AI, 정치 선동·허위 정보 확산…자유롭게 비판할 수 있어야"

오픈AI와 구글 딥마인드 직원들은 기업 임원들이 수익 창출에 눈멀어 생성형 인공지능(AI) 안전성을 뒷전으로 한다고 비난했다.

4일(현지시간) 영국 가디언 보도에 따르면 오픈AI와 구글 딥마인드 전·현 직원 12명이 AI 기업의 수익 창출 욕구가 기술 안전성을 방해하고 있다는 공개 서한을 발표했다. 

이들은 서한을 통해 문자와 이미지를 생성하는 AI 기술 안전성에 대해 문제 제기했다. 이런 기술이 사회에 큰 위험을 끼칠 수 있지만, 정작 개발사는 비즈니스 확장에만 관심 있다는 주장이다.

오픈AI와 구글 딥마인드 전·현 직원 12명이 AI 기업의 수익 창출 욕구가 기술 안전성을 방해하고 있다는 서한을 내놨다. (사진=오픈AI 달리3)

직원들은 생성형 AI가 잘못된 정보를 확산할 것이라고 봤다. 이들은 "결국 AI 시스템이 후퇴하고 경제적 불평등이 닥칠 것"이라며 "인류 멸종을 초래할 수 있다"고 경고했다. 이어 "기업 지배구조가 AI 안전성 향상을 도울 수 없는 형태다"며 "현재 수익 창출에 최적화된 구조"라고 서한에서 우려를 표했다.

서한에는 오픈AI의 이미지 AI 생성기 활용 사례가 등장했다. 사용자들이 이용 정책을 어기고 정치 선동, 투표 관련 허위 정보 확산을 위해 이미지를 만드는 예시였다.

연구원들은 기업들이 AI 기능 한계에 대한 정보를 정부와 자발적으로 교류할 것이라 약속했지만, 이를 믿을 수 없다는 입장도 밝혔다.

서한에 참여한 한 직원은 "개발자 직원들은 AI 위험 관련 우려를 공개적으로 제기할 수 있는 권한이 있어야 한다"며 "기술 기밀 유지 계약 강요에서도 벗어나야 한다"고 강조했다.