您的位置首页 >人工智能 >

网信办对 AI 换脸带货加强管控,4.7 万条假名人内容集中清理

网信办针对 AI 换脸带货乱象开展专项整治,一共清理了 4.7 万条假冒名人的虚假内容,给泛滥的 AI 换脸带货踩下刹车。AI 换脸技术门槛变低之后,不少不法分子伪造名人肖像、语音制作带货视频,冒充名人推荐商品,很容易误导消费者下单,不仅侵害名人肖像权、名誉权,还容易引发虚假宣传、诈骗、售后纠纷,损害消费者权益。本次整治先通过平台智能识别、人工复核抓取 AI 换脸伪造名人带货内容,核验违规素材之后做下架、删除处置,同步对违规账号进行限流、封禁,督促平台升级 AI 生成内容识别能力,完善事前审核机制,后续还会持续常态化巡查,持续管住 AI 换脸带货这类违规行为,净化网络带货环境。

本次整治重点违规内容清单

  1. AI 换脸伪造名人出镜直播、短视频带货
  2. AI 合成名人语音,搭配虚假商品宣传话术
  3. 冒用名人形象,夸大产品功效、虚假承诺售后
  4. 批量搬运、剪辑二次加工假名人 AI 带货素材
  5. 刻意隐藏 AI 生成标识,诱导用户相信是真人推荐

处置方式对照表

违规等级处置手段适用场景
轻度违规下架内容、警告账号首次发布、未造成大量传播的 AI 换脸带货内容
中度违规限制流量、短期禁言多次发布、已有一定传播量的假名人带货视频
重度违规永久封禁账号,线索移交利用 AI 换脸带货实施诈骗、大额虚假宣传

平台落地管控步骤

  • 第一步:升级 AI 鉴别模型,识别换脸、合成语音等伪造内容
  • 第二步:对疑似假名人带货素材人工复核,确认违规
  • 第三步:删除违规内容,执行账号处罚并留存记录
  • 第四步:对高风险 AI 生成内容强制要求标注 AI 生成
  • 第五步:定期巡检,防止同类 AI 换脸带货内容反复上线

【常见问题】

问题 1:网信办清理的 4.7 万条假名人内容,是不是全部都是 AI 换脸带货内容?

回答 1:这批 4.7 万条假名人内容里,主体是 AI 换脸带货类虚假素材,也是本次网信办给 AI 换脸带货踩刹车的重点整治对象。

问题 2:普通用户刷到 AI 换脸带货的假名人视频,该怎么举报?

回答 2:刷到 AI 换脸带货的假名人内容,可以直接在平台内举报仿冒名人、虚假带货,相关线索会纳入网信办针对 AI 换脸带货的整治核查通道。

问题 3:网信办给 AI 换脸带货踩刹车之后,是不是完全不能使用 AI 换脸做内容?

回答 3:网信办管控的是冒充名人、虚假带货的违规 AI 换脸内容,合规、获得本人授权并且标注 AI 生成的换脸内容,是允许正常发布的。

【数据来源】

[2026-11-05](网信办开展专项治理,清理 4.7 万条假名人 AI 带货内容)央视新闻

[2026-11-02](严打 AI 换脸虚假带货,多平台同步处置假冒名人账号)澎湃新闻

[2026-10-29](AI 深度伪造带货监管新规落地,强化假名人内容排查)中国网信网

【免责声明】

本内容仅为资讯整理,整治细则、违规判定标准以网信办及各平台官方发布文件为准,不构成法律指导、商业运营建议。

今日大家都在搜的词: