针对利用 AI 技术假冒、仿冒公众人物发布内容的违规行为,平台开展专项治理,一共处置了 3961 个相关违规账号,压制 AI 伪造仿冒公众人物内容的传播。现在 AI 换脸、AI 语音合成工具门槛很低,不法分子很容易伪造公众人物的视频、语音,用来带货引流、编造虚假言论、诱导转账,这类内容容易误导大众,侵害公众人物肖像权、名誉权,还会扰乱网络秩序,所以监管和平台持续加大识别和打击力度。整治过程中,平台先用 AI 鉴别模型自动筛查疑似伪造内容,再由人工复核确认是不是 AI 仿冒公众人物,确认违规之后对账号采取不同等级处罚,同时留存线索移交相关部门,并且持续优化识别模型,堵住批量生成仿冒内容的漏洞,降低这类违规内容反复出现的概率。
本次整治识别的违规类型清单
- AI 换脸伪造公众人物出镜视频、直播画面
- AI 语音合成模仿公众人物声音,编造虚假话术
- 盗用公众人物形象搭配虚假文案,虚假宣传、引流牟利
- 批量注册账号,分发 AI 仿冒公众人物的素材
- 刻意隐藏 AI 生成标识,刻意让用户误以为是本人发布
账号处置分级对照表
| 违规等级 | 处置措施 | 适用场景 |
|---|---|---|
| 轻度违规 | 删除违规作品、账号警告、限流 | 初次发布、传播范围较小的 AI 仿冒公众人物内容 |
| 中度违规 | 限制发布、短期封禁 | 多次发布、有一定传播量的 AI 仿冒公众人物内容 |
| 重度违规 | 永久封禁账号,线索移交监管 | 利用 AI 仿冒公众人物实施诈骗、严重虚假宣传 |
平台治理执行步骤
- 第一步:启用深度伪造识别模型,全网巡检 AI 仿冒公众人物内容
- 第二步:人工复核疑似素材,核验是否属于假冒仿冒公众人物
- 第三步:根据违规严重程度执行对应账号处置
- 第四步:记录违规样本,回流训练识别模型,提升检出能力
- 第五步:接收用户举报,建立常态化举报核查通道
【常见问题】
问题 1:这次被处置的 3961 个账号,是不是全部都是利用 AI 技术仿冒公众人物的账号?
回答 1:本次专项行动处置的 3961 个账号,核心违规行为就是利用 AI 技术假冒仿冒公众人物,是本次治理重点打击对象。
问题 2:普通网友刷到 AI 仿冒公众人物的视频,应该怎么做?
回答 2:刷到 AI 仿冒公众人物的内容,可以在平台提交举报,举报信息会纳入 AI 仿冒公众人物专项核查流程。
问题 3:有授权的 AI 数字人,会不会被判定为 AI 仿冒公众人物?
回答 3:如果拿到公众人物正式授权、并且标注 AI 生成,不属于违规仿冒;无授权私自用 AI 制作公众人物内容,就属于本次整治的 AI 仿冒公众人物行为。
【数据来源】
[2026-11-06](平台开展 AI 仿冒公众人物专项治理,处置 3961 个违规账号)央视新闻
[2026-11-03](严打 AI 深度伪造假冒公众人物,多平台同步处置违规账号)澎湃新闻
[2026-10-31](强化 AI 生成内容审核,防范仿冒公众人物乱象)中国网信网
【免责声明】
本内容仅为资讯整理,AI 仿冒公众人物的判定标准、处置规则以监管部门及各平台官方公告为准,不构成法律相关建议。
