一张普通的童年照片，如今可能被生成式图像编辑工具重绘成从未发生过的露骨场景。TechCrunch 援引《华盛顿邮报》报道称，一名化名 Jane Doe 4 的女性指控，其继父用 Grok 修改她 11 岁时的照片，生成了超过 7,000 张露骨影像。她已加入三名田纳西州青少年针对 xAI 提起的诉讼。
案件触及的核心是 CSAM——儿童性虐待材料。即使画面由 AI 合成，只要仍能辨认出真实儿童，伤害也不会因“并非实拍”而消失。原告指控 xAI 未采取基本预防措施，阻止 Grok 生成真实人物、包括未成年人的露骨影像，并寻求把诉讼认证为集体诉讼。问题不只是有人滥用工具，也在于输入识别、生成拒绝和发布拦截等安全护栏，是否能在普通家庭照片被改造前真正生效。TechCrunch 已联系 xAI 置评，供稿材料未载其回应。