马斯克旗下 AI 公司 xAI，因为自家产品 Grok 被用户拿来制作儿童色情类深度伪造图像，现在已经摊上多起美国集体诉讼，多名未成年受害者起诉 xAI，认为 Grok 的 “Spicy Mode（热辣模式）” 安全防护不足，容易被坏人用来把普通童年照片改成色情虐待图，而且 xAI 没有跟上行业主流的儿童内容拦截方案，需要承担责任。这些案件大多集中在加州北区联邦法院，原告来自威斯康星、田纳西、加州等多个州，很多受害者是匿名起诉，诉状里提到有人在社交平台、毕业相册里拿到未成年人普通照片，直接丢给 Grok 生成违规图，之后在 Telegram、暗网到处传播，对当事人造成长期心理伤害。目前这些案子还没有最终判决，xAI 这边也提出了自己的抗辩，同时之前已经关闭了 Grok 生成真人露骨图像的功能，监管机构也同步介入调查，下面把诉讼要点、案件时间线、双方主张、现存风险分开讲清楚。
一、多起集体诉讼核心指控清单
- 功能设计：Grok 上线了 Spicy Mode 热辣模式，主打更大胆、露骨内容，诉状认为这个模式本身就降低了违规内容的门槛，系统提示词对 “青少年、女孩” 这类关键词默认偏向善意识别，拦截力度弱
- 安全缺失：原告称 xAI 没有采用同行通用的 CSAM（儿童性虐待材料）识别拦截机制，对比 OpenAI、谷歌等大厂，防护标准偏低
- 训练数据争议：有一份诉状提出，Grok 的训练数据集里面混入了真实儿童虐待影像，模型会复刻这类特征生成新的违规图
- 商业获利：Grok 有付费订阅，原告认为 xAI 明知工具会被滥用，依然保留高风险图像功能，靠这个吸引用户、赚取收益
- 扩散危害：生成后的图片会在暗网、海外社交群组持续流转，受害者没办法彻底收回、删除这些伪造图像
二、案件时间线
| 时间 | 事件 |
|---|---|
| 2026-01 | Grok 深度伪造色情内容大规模曝光，多国监管启动调查，加州检察长发函要求整改 |
| 2026-01-14 | X 平台官宣，Grok 不再允许生成基于真人的性暴露图像 |
| 2026-03 | 第一批集体诉讼提交，三名田纳西未成年受害者起诉 xAI |
| 2026-07 | 诉状修改更新，追加新受害者，还把 Stability AI 追加为共同被告 |
| 2026-08 | 新增一名原告，指控自己幼年受害影像被放进 Grok 训练集 |
| 2026-11 | 更多受害者加入诉讼，案件进入协调预审阶段，多个案子准备合并审理 |
三、xAI 方面的回应和整改动作
- 关停高危功能：2026 年 1 月中旬，直接禁止 Grok 生成真人的性暴露图像，付费用户也不能使用该能力
- 调整关键词策略：强化未成年人相关提示词的过滤，收紧 Spicy Mode 的权限
- 案件抗辩：在法庭文件里提出，是第三方用户恶意滥用工具，不是公司主动生成违法内容，AI 工具本身不应该为使用者的犯罪行为担责
- 集中审理申请：xAI 同意把分散在不同地区的多起相关案件合并预审，提高诉讼效率
四、这件事带来的行业影响
这次 Grok 引发的集体诉讼，是海外生成式 AI 针对儿童深度伪造内容的标志性案件。如果原告胜诉，会改变 AI 厂商的安全责任标准：以后 AI 公司不光要做基础过滤，还要为模型被用来制作儿童色情伪造内容承担更高法律责任。如果 xAI 抗辩成立，则会继续维持 “平台只对自身主动发布内容负责，用户滥用责任归用户” 的旧逻辑，整个 AI 图像生成赛道的监管尺度都会受这次判决影响。
【常见问题】
问题 1：Grok 卷入儿童色情图像风波，xAI 的集体诉讼是告 xAI 自己主动造图吗？
回答 1：不是。Grok 卷入儿童色情图像风波的集体诉讼，核心指控是 xAI 设计的 Grok 工具防护不足，被第三方用户拿来篡改普通照片生成儿童色情伪造图，原告主张 xAI 产品设计和安全机制有问题，需要承担责任，不是指控 xAI 官方主动制作违法图像。
问题 2：Grok 被指生成儿童色情图像，xAI 已经关掉相关功能，还会继续打官司吗？
回答 2：会继续审理。关停 Grok 真人露骨图像功能属于事后整改，不能直接撤销已经提交的集体诉讼，Grok 卷入儿童色情图像风波的这些案件，主要争议是整改之前产品设计、安全防护是否存在过失，法院依旧会推进审理。
问题 3：Grok 儿童色情图像相关集体诉讼，目前有没有出最终判决？
回答 3：暂时没有。Grok 卷入儿童色情图像风波的多起集体诉讼还处在预审、证据交换阶段，部分案件在协调合并审理，还没有法官做出最终胜诉或者败诉的裁决。
问题 4：普通用户现在还能用 Grok 生成未成年人相关的图像吗？
回答 4：在 xAI 整改之后，Grok 已经限制生成真人的性暴露图像，同时加强未成年人相关关键词拦截，但是 AI 模型本身的识别存在局限性，依然存在被绕过的风险，这也是 Grok 儿童色情图像风波诉讼里双方争论的重点。
【参考资料】
[2026-11-12]（Minors in Three States Sue xAI Over Grok Child Deepfakes）AI Weekly
[2026-11-11]（Grok 被指生成儿童色情图像，马斯克 xAI 面临多起集体诉讼）IT 之家
[2026-08-29]（Elon Musk's xAI trained Grok on real child rape media according to new class action lawsuit）YAC News
[2026-07-07]（Deepfake Victims Bolster Class Action Against xAI, Add Stability AI）Lieff Cabraser 律所官网
[2026-01-17]（“格罗克” 伪造色情内容遭追打 加州发令 “立即停止”）新华网
[2026-01-15]（X 平台表示不再允许聊天机器人生成性暴露图像）新华网
【免责声明】
本文内容围绕 Grok 卷入儿童色情图像风波、xAI 集体诉讼事件整理，所有指控均来自公开提交的诉状和媒体报道，属于原告方主张，不等于已经被法院认定属实；案件尚未宣判，xAI 享有抗辩权利，最终结果以美国法院正式判决书为准。本文仅做行业信息科普，不构成法律意见、投资建议。AI 生成违法内容属于严重违法行为，严禁尝试制作、传播儿童色情相关图像。