일론 머스크의 인공지능(AI) 기업 xAI가 자사 챗봇 '그록'(Grok)을 이용해 미성년자들의 성적인 딥페이크 이미지를 제작했다는 혐의로 집단소송을 당했다.
16일(현지시간) 비즈니스 인사이더에 따르면, 캘리포니아 연방법원에 미성년자 3명을 대리하는 집단소송이 제기됐다. 소장에는 xAI가 아동 성 학대물에 해당하는 콘텐츠를 제작해 이익을 얻었다는 주장이 담겼다.
원고 측은 소장에서 "대부분의 AI 기업들은 이러한 도구의 위험성을 인지하고 아동 성범죄자들이 제품을 사용하지 못하도록 업계 표준의 안전장치를 마련했지만, xAI는 그렇지 않았다"고 비판했다.
xAI와 머스크 측은 해당 사안에 대한 논평 요청에 즉시 응답하지 않았다.
앞서 머스크는 지난 1월 소셜미디어 엑스(X)를 통해 "그록이 생성한 미성년자의 나체 이미지는 전혀 알지 못한다"며 "그록의 운영 원칙은 특정 국가나 주의 법률을 준수하는 것이며 불법적인 것은 생성하지 않도록 거부할 것"이라고 밝힌 바 있다.
소장에 따르면 테네시주에 거주하는 원고 3명은 xAI의 AI 도구로 자신들의 나체 이미지와 영상이 만들어졌다고 주장했다. 이 중 1명은 최근 성인이 됐으나 사건 당시에는 미성년자였으며, 나머지 2명은 여전히 미성년자다.
피해자 중 한 명인 제인 도 1은 2025년 12월, 자신을 아는 누군가가 AI로 생성한 사진을 그룹 채팅 플랫폼 디스코드를 통해 유포했다는 익명의 인스타그램 메시지를 받았다. 유포된 파일에는 피해자의 얼굴과 신체가 성적으로 노골적인 자세로 합성된 이미지와 영상이 포함된 것으로 전해졌다.
이후 피해자들과 가족들의 신고로 테네시주에서 형사 수사가 시작됐으며, 2025년 12월 현지 경찰이 용의자를 체포했다. 수사 과정에서 다른 두 미성년 피해자의 이미지도 xAI 도구를 통해 성적인 콘텐츠로 제작된 사실이 드러났다.
원고 측 변호인인 바네사 베어-존스 변호사는 "피해자들은 끔찍한 고통을 겪고 있다"며 "이번 소송이 xAI에 책임을 묻고 다른 피해자가 발생하는 것을 막기를 바란다"고 말했다.
이번 소송은 불특정 손해배상과 함께 아동 음란물 배포 및 소지 의도 등 여러 혐의에 대해 xAI의 책임을 묻고 있다.
앞서 xAI의 그록은 실제 인물의 동의 없이 성적인 이미지를 만드는 데 사용돼 큰 논란을 빚은 바 있다. 이에 엑스는 그록이 실제 인물의 성적이거나 노출이 심한 옷을 입은 AI 이미지를 생성할 수 없도록 조치했다.