AI가 생성한 아동 성적 학대물에 대한 집단소송이 확대됐습니다. 7월 7일 화요일, Lieff Cabraser Heimann & Bernstein의 변호인단은 미국 캘리포니아 북부지방법원에 수정 소장을 제출해 원고 두 명과 두 번째 피고를 추가했습니다. 이 사건은 2026년 3월 테네시주 10대 3명이 처음 제기했으며, 이제는 Jane Doe 원고 5명으로 늘어났고, 소송이 제기될 당시 xAI로 알려졌던 Elon Musk의 회사 SpaceXAI와 함께 Stable Diffusion의 제작사인 Stability AI가 피고로 적시됐습니다.
새로운 주장
소장에 추가된 두 원고는 와이오밍주와 위스콘신주 출신 여성들입니다. 소장에 따르면 현재 20대인 Jane Doe 4로 특정된 원고의 의붓아버지는 Grok을 이용해 그녀의 성적으로 노골적인 이미지와 영상 약 7,000개를 생성했으며, 모두 그녀가 약 11세였을 때 찍힌 한 장의 사진에서 파생됐습니다. 소장은 일부 자료에 노골적인 캡션도 붙어 있었다고 주장합니다.
신고 관련 주장
미국 기업은 아동 성적 학대물로 의심되는 자료를 National Center for Missing & Exploited Children에 법적으로 신고해야 합니다. 소장은 SpaceXAI가 2월에 NCMEC에 단 한 건의 제보만 제출했다고 주장하며, 원고 측은 그 수치가 자신들의 의뢰인이 Grok이 생성했다고 말하는 이미지의 규모와 도저히 양립할 수 없다고 주장합니다.
법적 쟁점
청구는 Masha's Law, Trafficking Victims Protection Act 및 캘리포니아 주법에 근거하며, CSAM 제작, 성매매 사업으로부터의 이익 취득, 과실, 결함 있는 제품 설계, 공해를 포함합니다. 이 가운데 마지막 청구가 가장 범위가 넓습니다. "공해란 이것이 단지 우리 의뢰인들에게만 문제가 되는 사안이 아니라는 뜻입니다"라고, Lieff Cabraser의 파트너이자 로펌의 Sexual Abuse Survivors Practice Group을 이끌며 공동 대리인 Vanessa Baehr-Jones와 함께 사건을 맡고 있는 Annika K. Martin은 말했습니다. "이것은 사회 전체에 해악을 끼치는 사안입니다." 제안된 전국 단위 집단은 미국 내에서 실제 아동 시절 사진이 Grok에 의해 성적화된 자료로 변형된 모든 사람을 포괄합니다. 원고들은 손해배상과 함께 실질적인 차단 장치를 강제하는 법원 명령을 요구하고 있습니다.
반응
Stability AI는 성명에서 "안전이 최우선 과제가 아니라는 어떤 시사도 명백히 틀렸다"고 밝히며, "우리는 우리의 윤리적 책임을 진지하게 받아들인다"고 덧붙였습니다. SpaceXAI는 논평 요청에 응답하지 않았습니다. 규제당국이 먼저 같은 사안을 들여다봤습니다. 영국의 Ofcom은 1월 12일 X를 상대로 Online Safety Act 조사에 착수했고, ICO는 2월 3일 Grok의 성적화 이미지 생성과 관련해 자체 조사를 시작했으며, 유럽연합 집행위원회도 Digital Services Act에 따라 절차를 개시했습니다.