인공지능(AI)이 세계적으로 확산하는 가운데 마이크로소프트(MS) 엔지니어가 AI 위험성을 경고했다. 실제 '코파일럿 디자이너'는 특별한 명령 없이 단순 단어에도 유해한 이미지를 생성하는데 MS는 이를 의식한 듯 특정 단어로 이미지를 생성하는 것을 차단했다.
6일(현지시간) 더 버지에 따르면 MS에서 6년 동안 근무한 셰인 존스(Shane Jones) 엔지니어는 AI 이미지 생성 유해성을 담은 편지를 미 연방거래위원회(FTC)에 발송했다.
자사의 '코파일럿 디자이너'가 유해한 이미지를 생성할 수 있다는 내부의 경고에도 MS가 이를 거부했다는 내용이다.
셰인 엔지니어는 "회사에 여러 차례 조사 결과를 보고해 더 나은 안전장치가 마련될 때까지 이를 대중이 사용하지 못하도록 해야 한다고 촉구했다"면서 "MS는 소비자가 위험을 인식하지 않고 필요한 경고를 하지 않는다"고 설명했다.
관련기사
- 英·EU 압박에 아마존 '백기'…MS도 경쟁사 이동 수수료 폐지 나설까2024.03.06
- WMS 사방넷 풀필먼트, 신규 고객 20만원 할인쿠폰 제공2024.03.04
- EU, AI 스타트업 투자한 MS 조사2024.02.28
- MS, 닷넷9에서 클라우드 네이티브 스택에 집중2024.02.27
실제 이날 '코파일럿 디자이너'에 임신 중절 합법화를 뜻하는 pro-choice를 입력했을 때 MS는 해당 프롬프트를 차단한 상태다.
MS 측은 셰인의 편지에 특별한 답을 하지는 않은 것으로 전해졌다. 다만 우려 사항을 해결하는데 노력하고 있다는 뜻을 밝혔다.
