구글이 생성형 인공지능(AI) 챗봇 '제미나이' 출시를 서두르기 위해 안전성을 포기했다는 폭로가 나왔다.
폭스뉴스는 21일(현지시간) 전 구글 직원이 생성형 AI 챗봇 '제미나이(전 바드)' 기능이 안전하지 않다는 경고를 임원진에 했지만 묵살당했다고 폭로했다고 보도했다.
보도에 따르면 당시 AI 개발팀은 구글의 AI 원칙에 따라 챗봇의 윤리·안전성 검토를 거쳤다. 개발팀은 "해당 챗봇은 기능적·윤리적으로 안전하지 않다"며 "구글은 생성형 AI 서비스를 운영해선 안 된다"고 경고했다. 해당 챗봇의 기능을 보완하지 않으면 환각현상을 비롯해 비도덕·비윤리적 답변이 나올 것이라는 내용이었다.
AI 개발팀은 챗봇 기능이 우려스럽다며 챗봇의 데이터셋과 자연어 처리 과정을 조사할 필요가 있다고 경고했다. 챗봇의 데이터 학습 내역을 확인할 수 있는 도구가 필요하다는 의견도 제시했다. 전문가 시각에서 구글의 챗봇 기능이 정상적이지 않았다는 의미다.
전 구글 직원은 "전문가 의견이 모두 묵살당했다"며 "혁신팀 책임자였던 젠 젠나이는 해당 의견을 경영진에 전달하지 않았다"고 했다. 현재 이 팀은 해체됐다. 그렇게 구글 챗봇이 지난해 3월 출시됐다.
해당 폭로 시점은 오픈AI의 챗GPT가 출시된 지 약 3개월 지났을 때다. 당시 매체들은 알파벳이 챗GPT 기술 도입에 위기감을 느껴 코드레드를 발령했다고 일제히 보도했다. 구글의 모든 제품에 생성형 AI를 탑재해야 한다는 지침을 내놓기도 했다. 폭로가 사실이라면 AI 챗봇 제미나이도 안전성 검증을 거치지 않고 출시된 셈이다.
이에 젠 젠나이는 "폭로가 사실이 아니다"고 폭스뉴스에 전했다. 그는 "당시 구글의 챗봇은 데모버전이었다"며 "데모버전까지 검토하는 건 드문일이었기 때문에 옳은 결정을 내린 것"이라고 설명했다. 이에 대해 전 구글 직원은 "해당 주장은 100% 거짓"이라고 했다.
관련기사
- 삼성 '갤럭시링'에 자극 받았나…구글, 핏빗에 AI 챗봇 탑재2024.03.21
- 구글 "AI로 일주일 전에 홍수 예측한다"2024.03.21
- 애플, 아이폰에 생성AI 탑재 위해 구글과 손잡나2024.03.20
- "구글 픽셀8a 출시 임박…5월 I/O 행사서 공개 유력"2024.03.19
앞서 마이크로소프트 직원도 자사 생성형 AI 제품이 폭력적이고 비윤리적인 이미지를 생성한다고 이달 초 CNBC를 통해 폭로한 바 있다. 마이크로소프트에서 6년 동안 근무한 셰인 존스 엔지니어는 자사의 이미지 생성 서비스 '코파일럿 디자이너'가 유해한 이미지를 만들 수 있다고 경고했음에도, 임원진이 이를 거부했다고 밝혔다.
셰인 엔지니어는 "회사에 여러 차례 조사 결과를 보고해 더 나은 안전장치가 마련될 때까지 이를 대중이 사용하지 못하도록 해야 한다고 촉구했다"면서 "현재까지 마이크로소프트는 소비자 안전을 인식하지 않는다"고 말했다.
