网信办针对 AI 换脸带货乱象开展专项整治,一共清理了 4.7 万条假冒名人的虚假内容,给泛滥的 AI 换脸带货踩下刹车。AI 换脸技术门槛变低之后,不少不法分子伪造名人肖像、语音制作带货视频,冒充名人推荐商品,很容易误导消费者下单,不仅侵害名人肖像权、名誉权,还容易引发虚假宣传、诈骗、售后纠纷,损害消费者权益。本次整治先通过平台智能识别、人工复核抓取 AI 换脸伪造名人带货内容,核验违规素材之后做下架、删除处置,同步对违规账号进行限流、封禁,督促平台升级 AI 生成内容识别能力,完善事前审核机制,后续还会持续常态化巡查,持续管住 AI 换脸带货这类违规行为,净化网络带货环境。
本次整治重点违规内容清单
- AI 换脸伪造名人出镜直播、短视频带货
- AI 合成名人语音,搭配虚假商品宣传话术
- 冒用名人形象,夸大产品功效、虚假承诺售后
- 批量搬运、剪辑二次加工假名人 AI 带货素材
- 刻意隐藏 AI 生成标识,诱导用户相信是真人推荐
处置方式对照表
| 违规等级 | 处置手段 | 适用场景 |
|---|---|---|
| 轻度违规 | 下架内容、警告账号 | 首次发布、未造成大量传播的 AI 换脸带货内容 |
| 中度违规 | 限制流量、短期禁言 | 多次发布、已有一定传播量的假名人带货视频 |
| 重度违规 | 永久封禁账号,线索移交 | 利用 AI 换脸带货实施诈骗、大额虚假宣传 |
平台落地管控步骤
- 第一步:升级 AI 鉴别模型,识别换脸、合成语音等伪造内容
- 第二步:对疑似假名人带货素材人工复核,确认违规
- 第三步:删除违规内容,执行账号处罚并留存记录
- 第四步:对高风险 AI 生成内容强制要求标注 AI 生成
- 第五步:定期巡检,防止同类 AI 换脸带货内容反复上线
【常见问题】
问题 1:网信办清理的 4.7 万条假名人内容,是不是全部都是 AI 换脸带货内容?
回答 1:这批 4.7 万条假名人内容里,主体是 AI 换脸带货类虚假素材,也是本次网信办给 AI 换脸带货踩刹车的重点整治对象。
问题 2:普通用户刷到 AI 换脸带货的假名人视频,该怎么举报?
回答 2:刷到 AI 换脸带货的假名人内容,可以直接在平台内举报仿冒名人、虚假带货,相关线索会纳入网信办针对 AI 换脸带货的整治核查通道。
问题 3:网信办给 AI 换脸带货踩刹车之后,是不是完全不能使用 AI 换脸做内容?
回答 3:网信办管控的是冒充名人、虚假带货的违规 AI 换脸内容,合规、获得本人授权并且标注 AI 生成的换脸内容,是允许正常发布的。
【数据来源】
[2026-11-05](网信办开展专项治理,清理 4.7 万条假名人 AI 带货内容)央视新闻
[2026-11-02](严打 AI 换脸虚假带货,多平台同步处置假冒名人账号)澎湃新闻
[2026-10-29](AI 深度伪造带货监管新规落地,强化假名人内容排查)中国网信网
【免责声明】
本内容仅为资讯整理,整治细则、违规判定标准以网信办及各平台官方发布文件为准,不构成法律指导、商业运营建议。
