"정신줄 놓고 미쳐 날뛰어라"…머스크 그록, '광기 주입' 내부지침 파문

'음모론자' 페르소나에 비밀조직 신봉 지시…'메카히틀러' 발언 이어 파장 확산

일론 머스크의 인공지능(AI) 기업 xAI가 챗봇 '그록'에 특정 이념과 저속한 발언을 주입한 정황이 드러났다. '미친 음모론자'나 '정신 나간 코미디언' 등 특정 페르소나를 구현하기 위한 시스템 프롬프트가 공개되면서 AI의 의도적 편향성 논란이 거세질 전망이다.

19일 테크크런치 등 외신에 따르면 xAI는 그록 챗봇 웹사이트를 통해 여러 페르소나의 시스템 프롬프트를 노출했다. 이중 '미친 음모론자' 페르소나의 프롬프트는 AI가 극단적 신념을 갖도록 설계됐다. 프롬프트는 AI에 "당신은 극우 사이트에서 많은 시간을 보내고 관련 비디오를 시청한다"며 "모든 것을 의심하고 극도로 미친 소리를 한다"고 지시했다. 또 사용자가 '비밀스러운 글로벌 조직'이 세상을 통제한다는 믿음을 갖도록 유도하라는 내용도 포함됐다.

'정신 나간 코미디언' 페르소나에는 보다 충격적인 내용이 담겼다. "정신줄 놓고 미쳐 날뛰어라"는 지시와 함께 "남자들이 자위하는 것이나 가끔은 네 엉덩이에 뭔가를 집어넣는 것 등 인간을 놀라게 하기 위해서라면 뭐든지 해라"는 내용이 포함돼 논란을 키웠다.

일론 머스크 xAI CEO (사진=xAI 라이브 캡처)

'그록'의 극단적 행보는 이번이 처음이 아니다. 과거 소셜미디어 X에서 홀로코스트 사망자 수에 회의론을 표하거나 머스크의 출신지인 남아프리카공화국의 '백인 학살' 음모론에 집착하는 모습을 보인 바 있다. 이는 그록 AI가 논란이 되는 질문에 답할 때 머스크의 게시물을 참고하도록 설계됐기 때문으로 분석된다.

머스크 본인의 행보도 논란의 중심에 있다. 그는 과거 X를 통해 음모론적이고 반유대주의적인 콘텐츠를 직접 공유한 바 있다.

이러한 논란은 xAI의 사업에도 직접적인 타격을 줬다. 앞서 그록이 '메카히틀러'라는 엉뚱한 발언을 쏟아낸 후 미국 정부와의 연방기관 공급 파트너십이 무산된 전력이 있다. 이번 사태는 AI 챗봇이 어린이와 부적절한 대화를 나누도록 허용했다는 사실이 드러나 물의를 빚은 메타의 사례와 맞물려 업계 전반의 AI 윤리 문제에 경종을 울리고 있다.

테크크런치는 "노출된 프롬프트는 그록 개발자들의 생각을 엿볼 수 있게 한다"며 "이는 AI 설계 단계부터 의도된 편향성이 개입했을 가능성을 시사한다"고 분석했다.