머스크의 '그록', 아동 성 착취물 제작 도구 전락…영국·EU 조사 착수

영국 IWF "그록 기반 성적 이미지 다크웹서 발견…경쟁 AI 모델보다 안전조치 취약"

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록(Grok)'이 아동 성 착취물 제작에 악용되고 있다는 조사 결과가 나오면서 영국과 유럽 규제 당국이 본격적인 대응에 나섰다.

9일 블룸버그통신에 따르면 영국 정부가 지정한 아동 성학대물 규제기관인 인터넷감시재단(IWF)은 최근 다크웹에서 11~13세 소녀를 성적 대상화한 불법 이미지를 다수 발견했다.

IWF는 해당 이미지들이 xAI의 이미지·영상 생성 모델인 '그록 이매진(Grok Imagine)'을 통해 만든 것으로 분석했다. 다크웹 이용자들은 그록 이매진으로 아동의 성적 이미지를 만들고, 이를 다시 다른 AI 도구에 넣어 노골적인 콘텐츠로 변환한 것으로 알려졌다.

응아이 알렉산더 IWF 아동 성학대물 접수 총괄 책임자는 "그록 같은 도구들이 아동 성적 AI 이미지를 주류로 끌어들일 위험이 있다"며 "이는 결코 용납될 수 없는 일"이라고 경고했다.

일론 머스크의 AI 스타트업 'xAI'의 로고 (사진=xAI)

파리에 있는 비영리 단체 AI 포렌식스의 별도 조사에 따르면 그록이 제작한 포르노 이미지와 영상 800개 중 약 8%(67개)가 어린이를 묘사하고 있었다. 이 단체는 해당 자료를 프랑스 검찰에 신고했다.

폴 부쇼 AI 포렌식스 연구원은 "그록은 구글 제미나이나 오픈AI 챗GPT에 비해 안전 조치가 취약한 편이다"고 지적했다. 특히 X에 통합된 것보다 독자 그록 앱에서 제작된 이미지들이 훨씬 더 노골적이고 충격적인 것으로 알려졌다. 

이번 사태에 대해 각국 정부의 비판과 규제도 거세지고 있다. 키어 스타머 영국 총리는 "그록의 성적 이미지 제작은 역겹다"며 "X(옛 트위터)가 이 상황을 통제해야 한다"고 말했다.

유럽연합(EU) 집행위원회 역시 즉각적인 행동에 나섰다. EU는 디지털서비스법(DSA)에 따라 일론 머스크가 소유한 X 플랫폼에 그록과 관련된 모든 내부 문서를 2026년 말까지 보존하라고 명령했다. 이는 앞으로 본격적인 조사와 규제 조치를 위한 사전 단계로 풀이된다.

X와 xAI 측은 이번 사안에 공식 답변을 내놓지 않고 있다.