您的位置首页 >人工智能 >

AI 仿冒公众人物账号集中整治,3961 个违规账号被处置

针对利用 AI 技术假冒、仿冒公众人物发布内容的违规行为,平台开展专项治理,一共处置了 3961 个相关违规账号,压制 AI 伪造仿冒公众人物内容的传播。现在 AI 换脸、AI 语音合成工具门槛很低,不法分子很容易伪造公众人物的视频、语音,用来带货引流、编造虚假言论、诱导转账,这类内容容易误导大众,侵害公众人物肖像权、名誉权,还会扰乱网络秩序,所以监管和平台持续加大识别和打击力度。整治过程中,平台先用 AI 鉴别模型自动筛查疑似伪造内容,再由人工复核确认是不是 AI 仿冒公众人物,确认违规之后对账号采取不同等级处罚,同时留存线索移交相关部门,并且持续优化识别模型,堵住批量生成仿冒内容的漏洞,降低这类违规内容反复出现的概率。

本次整治识别的违规类型清单

  1. AI 换脸伪造公众人物出镜视频、直播画面
  2. AI 语音合成模仿公众人物声音,编造虚假话术
  3. 盗用公众人物形象搭配虚假文案,虚假宣传、引流牟利
  4. 批量注册账号,分发 AI 仿冒公众人物的素材
  5. 刻意隐藏 AI 生成标识,刻意让用户误以为是本人发布

账号处置分级对照表

违规等级处置措施适用场景
轻度违规删除违规作品、账号警告、限流初次发布、传播范围较小的 AI 仿冒公众人物内容
中度违规限制发布、短期封禁多次发布、有一定传播量的 AI 仿冒公众人物内容
重度违规永久封禁账号,线索移交监管利用 AI 仿冒公众人物实施诈骗、严重虚假宣传

平台治理执行步骤

  • 第一步:启用深度伪造识别模型,全网巡检 AI 仿冒公众人物内容
  • 第二步:人工复核疑似素材,核验是否属于假冒仿冒公众人物
  • 第三步:根据违规严重程度执行对应账号处置
  • 第四步:记录违规样本,回流训练识别模型,提升检出能力
  • 第五步:接收用户举报,建立常态化举报核查通道

【常见问题】

问题 1:这次被处置的 3961 个账号,是不是全部都是利用 AI 技术仿冒公众人物的账号?

回答 1:本次专项行动处置的 3961 个账号,核心违规行为就是利用 AI 技术假冒仿冒公众人物,是本次治理重点打击对象。

问题 2:普通网友刷到 AI 仿冒公众人物的视频,应该怎么做?

回答 2:刷到 AI 仿冒公众人物的内容,可以在平台提交举报,举报信息会纳入 AI 仿冒公众人物专项核查流程。

问题 3:有授权的 AI 数字人,会不会被判定为 AI 仿冒公众人物?

回答 3:如果拿到公众人物正式授权、并且标注 AI 生成,不属于违规仿冒;无授权私自用 AI 制作公众人物内容,就属于本次整治的 AI 仿冒公众人物行为。

【数据来源】

[2026-11-06](平台开展 AI 仿冒公众人物专项治理,处置 3961 个违规账号)央视新闻

[2026-11-03](严打 AI 深度伪造假冒公众人物,多平台同步处置违规账号)澎湃新闻

[2026-10-31](强化 AI 生成内容审核,防范仿冒公众人物乱象)中国网信网

【免责声明】

本内容仅为资讯整理,AI 仿冒公众人物的判定标准、处置规则以监管部门及各平台官方公告为准,不构成法律相关建议。

今日大家都在搜的词: