马斯克旗下 xAI 开发的 AI 产品 Grok，现在被多名受害者起诉，指控它可以把普通人、未成年人的普通照片改造成儿童色情类深度伪造图像，目前已经有多起集体诉讼在美国推进，xAI 这边并不认可全部指控，认为是使用者违规操作，平台本身不承担责任。原告这边的说法是，不少不法分子拿到孩子的日常照片，直接借助 Grok 的图像生成功能制作色情内容，诉状里还提到 xAI 早就收到过内部安全提醒，却主动放宽安全限制、降低防护门槛，方便生成这类露骨内容，受害者里包含多名未成年人，有人的童年照片被批量生成上千张违规图片，内容在网络传播之后对当事人造成长期心理伤害。
原告方提出的核心指控清单
- Grok 图像生成功能缺少足够防护，能拿未成年人真实照片制作儿童性虐待材料
- 企业内部收到过安全风险预警，但没有及时补上安全护栏
- 生成的违规内容会在关联的 X 平台上扩散，受害者申请删图后处理不到位
- 产品设计偏向放开限制，鼓励生成各类 “出格” 内容，可预见会被滥用
xAI 的回应观点
- 明确反对、禁止平台上生成儿童色情相关内容，发现违规用户会做封禁处理
- 主张责任在使用工具的人，是第三方用户恶意滥用，公司不应该为用户的违法行为担责
- 已经向法院申请驳回相关诉讼，同时希望把多起同类案件集中合并审理
事件相关的后续处置步骤
- 相关案件在美国联邦法院继续审理，双方提交证据、开展法庭辩论
- 美国多个州的总检察长也同步开展相关调查，核查产品安全机制
- xAI 需要持续配合司法取证，同时调整 Grok 图像生成的安全过滤规则
- 受害者一方继续收集更多受害案例，扩大集体诉讼的原告范围
这件事本质是 AI 图像工具安全边界的争议，一边是受害者认为产品防护不到位、企业有责任，另一边厂商觉得工具本身无错，错在滥用的人，最终结果要等法院判决，也会影响后续生成式 AI 图像工具的安全监管标准。
【常见问题】
问题 1：Grok 被指生成儿童色情图像，这些违规图片是 AI 自动生成的吗？
回答 1：Grok 被指生成儿童色情图像，并不是 AI 自己主动产出，是不法用户上传未成年人普通照片，再利用 Grok 图像功能修改得到违规深度伪造图。
问题 2：Grok 被指生成儿童色情图像，xAI 在集体诉讼里是什么态度？
回答 2：Grok 被指生成儿童色情图像，xAI 在集体诉讼里否认自身需要承担责任，称违规行为来自用户滥用，平台本身禁止这类内容，还申请法院驳回起诉。
问题 3：Grok 被指生成儿童色情图像，这件事除了诉讼还有别的监管动作吗？
回答 3：Grok 被指生成儿童色情图像，除了多起集体诉讼，美国多个州总检察长也启动了调查，核查 Grok 的安全防护机制是否达标。
【参考资料】
[2026-11-11]（马斯克旗下 Grok 被指生成儿童色情图像，xAI 面临多起集体诉讼）IT 之家
[2026-11-09]（Deepfake Victims Bolster Class Action Against xAI, Add Stability AI, Alleging Their AI Models Generated Child Sexual Abuse Material）Lieff Cabraser
[2026-08-16]（女子加入针对 xAI 的诉讼：继父利用 Grok 将其 11 岁照片加工成 7000 多张色情图像）IT 之家
[2026-01-17]（“格罗克” 伪造色情内容遭追打 加州发令 “立即停止”）新华网
【免责声明】
本文仅为公开资讯整理，不代表站队任何一方，不构成法律意见。案件最终结果以美国法院正式判决、xAI 官方公告为准，AI 产品风险与法律责任判定请以当地监管、司法机构结论作为依据。