您的位置首页 >人工智能 >

智源 TALK|OpenAI × 宾大联合研究 textGrain熵校准文本水印,平衡水印可检测性与 AI 文本生成多样性

textGrain 是 OpenAI 和宾夕法尼亚大学合作推出、在智源 TALK 进行分享的熵校准文本水印方案,它解决了传统大模型文本水印最头疼的矛盾:如果水印信号太强,模型输出容易变得死板、重复,生成多样性大幅下滑;如果弱化水印,又很容易被改写、转述之后检测失效,这项工作依靠最优传输理论,给采样熵设置可控预算,在嵌入隐形统计水印的同时,把多样性损失约束在设定范围内,不会出现同一个提示词反复输出几乎一样文字的情况;过去很多水印方案直接修改 logit,强制固定选词偏好,很容易破坏模型原生采样分布,要么检测效果差,要么文案呆板,而 textGrain 不修改文字样式、不插入可见标记,水印藏在 token 采样概率分布里,复制粘贴后信号依然保留,刚好匹配欧盟 AI Act 对生成内容溯源标记的合规需求,同时兼顾开发者、终端用户对自然多样文本的需求,也是目前少数已经落地到 ChatGPT、Codex、OpenAI API 的学术水印方案。

textGrain 和传统文本水印对比

方案核心思路多样性表现抗改写能力落地开销
Gumbel-max 经典水印按密钥对候选词排序,强制优先选取分组内指定词差,同 prompt 输出容易趋同、重复中等推理开销低
Logit 偏移水印直接对输出概率加分扰动一般,熵损失不可控偏弱,少量改写即可破坏信号低
textGrain 熵校准水印最优传输 + 熵预算约束,分词块做分布耦合可控,可按需设置多样性损失上限更强,对转述、微调编辑容忍度更高中等,分块优化降低计算压力

textGrain 核心技术要点清单

  • 熵预算机制:允许开发者设定最多损失多少采样熵,水印强度和多样性做可量化权衡,不是固定死的单一版本。
  • 词表分块耦合:把词表切分成多个分组,在分组内部做最优传输对齐,降低求解难度,适合线上推理。
  • 密钥驱动划分:token 归属哪个分组由密钥和上下文共同决定,检测器拿到文本和密钥,就可以还原分组规则完成检测,不需要拿到模型原始输出分布。
  • 不改动模型权重:属于解码阶段的采样侧水印,不需要重新训练或者微调大模型,接入现有推理链路更方便。
  • 检测端轻量化:检测器只依赖文本本身与密钥,不用访问原始 prompt、模型日志,适合第三方机构核验。

完整嵌入与检测链路

  1. 拿到模型原生预测的 token 概率分布,保留 top-p、温度等原有采样参数。
  2. 根据密钥、当前上下文,把全部候选 token 分到不同独立词块。
  3. 在预设熵损失预算下求解最优传输耦合,把原始分布映射成带水印的采样分布。
  4. 从新分布里采样输出文本,对外看和普通生成文本没有差别。
  5. 核验阶段:检测器使用相同密钥,还原分组规则,统计文本 token 序列是否匹配水印统计特征。
  6. 输出判定结果,给出置信度,只作为溯源线索,不能直接当作侵权、作弊的终审证据。

当前落地部署规则

  • 欧盟区域:ChatGPT、Codex 默认开启 textGrain 文本水印,覆盖付费用户,满足当地合规要求。
  • 全球 API:企业开发者可以自主选择开启或关闭,默认关闭。
  • 检测器权限:不对普通公众开放,只向资质审核通过的科研机构、合规核查团队申请使用。
  • 水印边界:无法精准区分一段文字里面 AI 片段和人工改写片段,只能给出整体的溯源概率。

这项方案的短板和局限

  • 如果用户做大规模重写、句式改写、机器翻译、大幅度增删,水印信号依然会衰减甚至消失,不是永久不可擦除。
  • 熵预算越小、水印越强,依然会带来一定程度的多样性下降,只是相比老方案可控很多。
  • 密钥一旦泄露,攻击者就可以针对性构造规避水印的文本。
  • 只针对文本,不解决图片、音频、视频这类多模态内容的溯源标记。

落地选型与测试步骤

  1. 明确业务目标:优先确认是满足监管合规,还是用于内部溯源、防抄袭,确定可接受的熵损失预算。
  2. 在小流量 API 上开启水印,对比相同提示词下,开启前后文本重复度、多样性、语义质量变化。
  3. 做鲁棒性测试:对文本进行转述、扩写、精简、翻译,观察水印检测置信度衰减情况。
  4. 配套流程建设:水印判定结果只作为证据线索,人工复核作为最终结论,避免误判。
  5. 持续跟进版本迭代:团队计划逐步开源算法,后续可以自主复现、做私有化推理适配。

小结

textGrain 的核心贡献,是把 “水印强度” 和 “生成多样性” 从非此即彼的取舍,变成可以量化配置的技术开关;依托最优传输与熵校准,它把传统水印最大的痛点缓解了,既能拿到稳定可检测的隐形信号,又不会让大模型写出来的内容千篇一律;在智源 TALK 的分享里,研究团队也反复强调,它不是万能的防伪锁,而是一条可审计、可追溯的辅助证据链路,要和人工审核、内容治理流程搭配使用。

【常见问题】

问题 1:智源 TALK 分享的 OpenAI 与宾大联合研究 textGrain,是怎么平衡 AI 文本水印和生成多样性?

回答 1:智源 TALK 分享的 textGrain 通过最优传输理论搭配熵预算机制,在解码采样阶段对 token 分布做可控耦合,预先限定允许损失的采样熵上限,在嵌入水印信号的同时,避免模型输出快速趋同,以此平衡 AI 文本水印可检测性和生成多样性。

问题 2:textGrain 作为熵校准文本水印,需要重新训练大模型才能接入吗?

回答 2:不需要,textGrain 属于解码侧的采样水印,不需要改动、重新训练模型权重,只在 token 采样环节介入,更容易接入 OpenAI API 和现有推理链路,也是它可以快速上线商用的重要原因。

问题 3:使用 textGrain 嵌入 AI 文本水印之后,用户改写转述还能检测出来吗?

回答 3:轻度改写、局部替换词汇时,textGrain 的水印保留能力优于很多传统方案;但如果是大范围重写、翻译、大规模增删,textGrain 的 AI 文本水印信号依然会衰减,无法做到完全抗篡改。

问题 4:智源 TALK 介绍的 textGrain 文本水印,现在哪些场景已经正式启用?

回答 4:智源 TALK 介绍的 textGrain 文本水印,欧盟地区 ChatGPT、Codex 默认启用;全球 OpenAI API 由企业开发者自主开关;水印检测器不面向普通用户开放,仅对审核通过的科研、合规机构开放申请。

【参考资料】

[2026-11-11](智源 TALK|OpenAI 联合研究 textGrain:破解 AI 文本水印与生成多样性的平衡难题,宾夕法尼亚大学)智源社区

[2026-10-20](当 AI 输出的文本,开始自带 “水印”)新浪科技

[2026-10-06](OpenAI 宣布正式启用文本水印,并公布技术方案)安全内参

[2026-10-05](textGrain: Entropy-Calibrated Watermarking for Language Model Text)arXiv

[2026-10-05](OpenAI 落地欧盟 AI 合规要求,ChatGPT 生成文本全面植入隐形水印)环球网科技

【免责声明】

本文整理的 textGrain、智源 TALK 相关内容来自论文、OpenAI 官方公告、智源社区公开分享;水印检测效果、抗编辑能力受改写程度、熵预算参数影响;textGrain 的判定结果仅作为溯源辅助线索,不能单独作为作弊、侵权的判定依据;检测器开放策略、开源计划、产品覆盖范围后续可能调整,商用落地请以 OpenAI 官方文档、监管最新要求为准。

今日大家都在搜的词: