xAI, Grok 안전장치 우회했다며 이용자 텍사스 연방법원에 제소

xAI는 소장에서 Harwood가 허위 신원으로 여러 계정을 만들고 프롬프트 표현을 바꿔 Grok의 안전장치를 우회했다고 주장했다. Harwood는 사우스캐롤라이나에 거주하는 남성으로, 2026년 2월 미성년자 성착취 관련 혐의로 체포됐다.

소송의 핵심 주장

xAI는 소장에서 Harwood가 비성적 사진을 당사자 동의 없이 성적 이미지로 바꾸려 했다고 주장했다. 이 사건에서 딥페이크는 원래 성적이지 않은 사진을 AI로 성적 이미지처럼 변형한 결과물을 가리킨다. xAI는 조작 대상에 성인뿐 아니라 미성년자의 이미지도 포함됐다고 소장에서 주장했다. 소장은 Grok가 콘텐츠 조정 기준 위반을 이유로 요청을 거부하자 Harwood가 표현을 바꾼 프롬프트를 반복 제출했다고 주장한다. Harwood는 아동 성착취물(CSAM) 소지·유포와 관련해 8건의 중범죄 혐의를 받고 있다. CSAM은 아동을 대상으로 한 성착취물을 뜻한다. xAI는 액수를 명시하지 않은 금전적 손해배상과 Harwood의 Grok 영구 이용 금지 명령을 청구했다.

회사가 밝힌 자체 집행

Al Jazeera는 해당 플랫폼 이용자가 260만 명을 넘는다고 보도했다. xAI는 소장에서 계정 정지·종료와 아동 성착취 의심물의 미국 실종·착취아동센터(NCMEC) 보고를 통해 규정을 집행한다고 밝혔다. NCMEC는 xAI가 아동 성착취 의심물을 보고한다고 소장에 적힌 미국 실종·착취아동센터다. Al Jazeera가 인용한 소장에 따르면 xAI는 5만2천여 계정을 정지하고 NCMEC에 7만3천여 건을 신고했으며, 회사는 이 신고가 2026년 약 250건의 체포로 이어졌다고 주장했다. xAI는 Harwood의 행위로 회사가 중대한 법적 위험과 평판 훼손에 노출됐다고 소장에서 주장했다.

잇단 아동 성착취 논란

Al Jazeera는 이번 소송을 AI 기업이 자사 이용자를 상대로 낸 첫 사례로 소개했지만, The Guardian은 유사 사건 가운데 초기 사례 중 하나로 표현했다. 2026년 3월 십대 집단은 Grok가 자신들의 미성년 시절 성적 이미지를 생성했다며 xAI를 상대로 소송을 냈다. 이번 소송보다 약 1주 앞서 다른 미성년 원고가 이 집단소송에 합류해, 의붓아버지가 Grok 등으로 자신의 성적 이미지 7천 장을 만들어 다크웹에 유포한 뒤 사망했다고 주장했다. 머스크는 2026년 1월 X 게시물에서 Grok가 생성한 미성년자 나체 이미지를 인지하지 못했다고 밝혔다. Al Jazeera는 Grok의 성적 콘텐츠 생성 문제가 워싱턴과 유럽 규제당국의 주목을 받았고 말레이시아와 인도네시아에서 차단 조치로 이어졌다고 보도했다.