您的位置首页 >半导体 >

Anthropic FlashProve 详解零知识证明如何识别 AI 中转套壳与模型掉包

FlashProve 是 Anthropic 于 2026 年 11 月 2 日开源的可证明推理(Provable Inference)研究原型,底层采用 zkSNARK(零知识简洁非交互式知识论证):模型服务商先把一套模型权重编码成公开的密码学承诺(相当于权重指纹),再针对每条输入和输出生成一份证明,证明 "这段回答确实由承诺对应的模型算出来";用户或审计方不需要拿到模型权重、也不需要自备 GPU,在普通 CPU 上十几秒即可完成核验。这套机制直接针对 AI 中转站、API 路由环节常见的模型掉包风险 —— 付费调用的是旗舰模型,后台实际执行的可能是更便宜的小模型,而以往用户只能凭回答质感猜测。需要明确的是,FlashProve 目前仍是研究原型,仓库标注 "不维护、不接受贡献",证明生成成本约为普通推理的 70—95 倍,上下文仅支持 1024 个 Token,且只覆盖整数权重、贪心解码条件下的 MoE 模型,Anthropic 暂无将其部署到 Claude 服务的计划。下面从问题背景、技术流程、实测数据、能力边界和现有替代方案几个维度做分层拆解。

一、要解决的问题:API 链路里的模型身份盲区

1. 传统调用链路为什么无法验明模型身份

  • 请求路径通常为 "用户 → 中转站 / 聚合网关 → 上游服务商 → 模型",用户只能看到最终返回的一段文字。
  • 模型自报家门的回答本身也是后台生成的,系统提示词里加一句 "你是某旗舰模型",任何模型都可能照说,不具备证据效力。
  • 凭回答风格、长度、拒答率判断容易被采样参数、上下文截断、路由策略干扰,定位不到真实原因。
  • 想彻底核验只能拿到权重自己重跑一遍,但前沿模型权重是厂商核心资产,普通用户也不具备运行大模型的算力条件。

2. 公开研究中的掉包风险

  • 斯坦福 Model Equality Testing 研究在 2024 年抽查了四款 Llama 模型的 31 个商业 API 端点,其中 11 个端点的输出分布与 Meta 发布权重的参考分布存在统计意义上的差异。
  • 典型风险场景包括:中转站用廉价模型冒充旗舰收费、评测对象与实际服务模型不一致、攻击者入侵后篡改 Token 流混入恶意内容、更高模型顶替获批弱模型上岗以规避监控。

3. 可证明推理要回答的窄问题

FlashProve 不评判回答好不好,只回答一个可数学核验的问题:这一段输出 Token,是不是由事先承诺的那一套权重计算产生的。证明通过,只能说明指定模型完成了这次计算;证明失败,则说明输出与承诺模型对不上。

二、技术流程:承诺、证明、验证三步

1. 离线阶段:权重承诺(Commitment)

  • 服务商在模型上线前,对权重做零知识编码,生成一个短指纹(承诺)并公开。
  • 承诺唯一锁定一套权重,权重改动一个参数指纹就对不上;但外部无法从指纹反推权重内容。
  • 实测中离线准备耗时约 39 分钟(单张 H100),服务方保存约 2.15GB 文件;客户端首次下载权重承诺、离线证明及链接证明共约 6.24MB,后续可复用。

2. 在线阶段:生成证明(Prove)

  • 服务商根据输入提示词和待检查输出,记录推理计算轨迹,包括矩阵乘法、取整、非线性运算等。
  • 证明说明这些运算使用了承诺中的权重,并按指定规则得到对应输出。
  • 证明文件约 19MB(18.78MB),随回答一并提供给用户或审计方。

3. 验证阶段:本地核验(Verify)

  • 验证者持有承诺、提示词、回答和证明文件,运行验证器(仓库命令 cp_verify)做检查。
  • 全程不需要权重、不需要 GPU;24 线程 CPU 约 17 秒完成核验,单线程约 21 秒。
  • 验证通过说明计算关系成立;权重不一致、Token 被篡改,证明无法与承诺对上,验证直接拒绝。

4. 证明系统的四个关键性质

性质含义
完备性(Completeness)诚实证明者按承诺权重跑出的真实结果,证明一定能通过核验,被误伤拒绝的概率极低
可靠性(Soundness)伪造证明除可忽略概率外必然被识破;造假蒙混过关在数学上等同于破解公认密码学假设
零知识(Zero knowledge)证明不泄露权重、中间计算值,也不暴露 MoE 每层实际运行了哪些专家;模型架构本身不在隐藏范围内
简洁性(Succinctness)证明文件小、核验快,客户端以远低于自行运行模型的计算开销完成检查

三、实测数据:4000 亿参数 MoE 模型上的表现

1. 测试配置

项目公开口径
测试模型Meta Llama 4 Maverick,4000 亿参数混合专家(MoE)模型
权重形式公开 4-bit 量化权重,转换为整数模型;每个 Token 实际激活约 170 亿参数
证明端硬件单张 H100 GPU + 24 CPU 核心
上下文窗口1024 个 Token,每份证明主要检查紧随提示词后的一个输出 Token
安全强度目标128 位

2. 吞吐与开销指标

指标FlashProve 实测值
证明生成吞吐约 110 Token / 秒(单张 H100)
批处理规模一批最多 64 个请求;24 个请求总耗时约 223 秒
单份证明大小约 19MB(18.78MB)
客户端核验24 线程 CPU 约 17 秒;单线程约 21 秒,无需 GPU
证明端 GPU 成本约为 vLLM 普通推理的 70—95 倍(对照 8 张 H100 运行 FP8 版本)

3. 与此前开源方案的对比

此前开源系统 VerInf 同样在 Llama 4 Maverick 上做验证:单台 DGX Spark 为 1000 个 Token 前向计算生成证明约需 14.3 小时,证明文件 93.6GB,20 个 CPU 核心核验约需 17.7 小时。两项测试硬件和任务设置不同,不能严格等同比较,但公开结果显示 FlashProve 的证明文件体积和客户端核验耗时都大幅压缩。

4. 三项降本优化手段

  • 利用 MoE 稀疏激活:证明工作量只随实际激活的约 170 亿参数变化,省去绝大部分未参与运算参数的计算;同时用指示向量隐藏路由选择,验证器对全部专家做加权求和,既省算力又不泄露运行路径。
  • 权重分段流式加载:4-bit 量化后权重约 232GB,超出单张 80GB 显存;权重保存在主机内存(约 290GB),逐段送入 GPU,算完一段即完成编码、哈希和归约,只留存传给下一段的少量状态。
  • 批处理共享数据:一批请求的部分证明步骤在 GPU 上并发执行,整批共享核验权重承诺所需的查询数据,减少重复工作。

5. 事后证明(Post-hoc Proving)方式

  • 为避免证明生成与推理引擎争抢显存和带宽拖慢用户体验,FlashProve 采用事后证明:推理 GPU 先生成并立即返回回答,再由独立硬件根据完整记录重新计算、生成证明。
  • 代价是核验存在延迟:用户可能在发现篡改前已收到恶意回答,已经通过回答泄露的信息也无法撤回。审计、抽检、争议仲裁等对延迟不敏感的场景更适合这一方式。

四、开源内容与工程范式

1. 本次同步公开的产物

  • 研究博客与技术报告
  • 协议规范文档(Claude 撰写)
  • 可执行代码:证明生成器、快速 C++ 验证器、经形式化验证的 Lean 验证器
  • 顶层数学命题的 Lean 形式化证明,以及交互式定理可视化器
  • 代码、Lean 证明和文档均以 Apache 2.0 许可证开源

2. AI 参与开发与 Lean 兜底机制

  • 据 Anthropic 披露,Claude 参与了用于推理的 zkSNARK 技术优化;协议文档、底层 C++/CUDA 代码和近 400MB Lean 证明中,绝大部分由 AI 生成,测试、运行、对比和代码审校也由 AI 完成。
  • 仓库语言构成:Lean 4 约占 95.2%(约 398MB),C++ 1.4%,Python 1.3%,CUDA 0.9%。
  • 密码学代码容错率极低,人类专家无法逐行审读海量中间推导;项目由人类科学家敲定六条顶层安全定义,再交给 Lean 4 编译器内核逐条核对中间推导,形成 "AI 负责工程与推理、形式化验证负责兜底" 的工程范式。

五、能力边界:现在还证明不了什么

1. 技术适用范围限制

限制项具体说明
模型类型目前面向 MoE 混合专家模型,非 MoE 架构不在当前支持范围内
计算口径证明针对整数权重、贪心解码结果;实际服务若采用浮点推理或采样解码,可能产生不同输出,出现不一致时需区分计算方式差异与回答篡改
上下文长度支持上下文最长 1024 个 Token,远低于前沿模型动辄数十万、数百万 Token 的窗口
侧信道不具备时间攻击等侧信道防护能力,相关内容不在安全保证范围内
形式化覆盖仅较慢的 Lean 验证器与可靠性定理正式关联;快速 C++ 验证器目前只通过与 Lean 验证器一致性测试,未获得同等形式化保证;批处理请求的零知识性尚未完成形式化证明
独立审计项目尚无独立安全审计,权重隐藏和对抗性证明测试仍有限

2. 证明本身覆盖不到的产品层面问题

  • 系统提示词被修改或追加限制、安全策略调整导致拒答变多、检索内容不同、量化方式或解码参数(temperature、top_p 等)被改动,这些都不在 "权重是否一致" 的核验范围内。
  • 证明只能说明相关推理确实发生过,不能排除企业在同一硬件上同时训练其他模型;对基于算力用途管控的政策要求,证明只能提供辅助参考。

3. 落地前提:可信的承诺发布机制

  • FlashProve 证明的是 "输出来自承诺 X 对应的模型"。如果中转站拿出一份有效证明,但承诺对应的是它自选的模型 B,而用户无法确认 B 就是购买时约定的 A,这份证明并不能解决身份问题。
  • 真正落地需要模型厂商、第三方机构或公开登记系统发布官方指纹,用户验证时固定比对官方承诺;若使用中转站提供的承诺 ID 或文件,仍存在被廉价模型指纹糊弄的空间。
  • 接入证明需要上游配合:持有权重的厂商先建立可信承诺、生成证明,中转平台再把证明转交给用户;最有动机偷换模型的服务商,也最没有主动接入的激励。

4. 研究阶段定位

  • 仓库版本 0.16.0,明确标注为 "研究产物:不维护、不接受贡献"。
  • Anthropic 表示本次发布是可证明推理技术的阶段性进展,供其他研究者复现和改进;暂无在 Anthropic 自有服务或 Claude API 中部署该系统的计划。

六、现有模型身份核验手段对照

方案思路优势局限
考题 / 指纹问答用特定问题探测模型知识零成本、随手可做易受采样和路由干扰,结论不可靠
统计分布检验大量采样后与参考模型输出分布对比不需要服务商配合调用量大,只能发现差异、难以定责
可信执行环境(TEE)推理在硬件隔离环境运行并出具远程证明性能损耗相对小需要信任硬件厂商,依赖特定硬件
零知识证明(FlashProve 路线)为每次计算生成密码学证明数学上可核验,不泄露权重证明成本高,需要可信承诺发布机制,目前仍是原型

同期其他进展:2 月 3 日 AI 隐私服务商 Tinfoil 介绍 Modelwrap 方案,通过安全硬件与权重承诺核验模型身份;8 月以色列 AI 安全公司 Attestable 公开面向大模型的零知识推理证明方案,测试结果覆盖 Gemma 4 31B。几种手段并不互斥,现实中更可能是组合使用:日常用统计检验和抽样监控发现异常,出现争议时再调取密码学证明。

七、对开发者与采购方的现实建议

在证明普及之前,通过中转渠道调用模型的团队可以先做低成本防护:

  • 建立基线:挑选 20—50 道覆盖代码、推理、长文本的固定测试题,分别在官方接口和中转接口运行,记录正确率、平均输出长度和耗时。
  • 固定参数:测试时显式指定 temperature、max_tokens 等参数,排除默认值差异带来的干扰。
  • 定期回归:把基线测试做成定时任务,每周跑一次,指标明显下滑即报警。
  • 核对用量:对比接口返回的 Token 用量与本地分词估算,差距过大需要警惕。
  • 关键链路走官方:涉及生产数据和合规要求的核心业务,优先直连官方或有正规合同的云厂商,中转渠道仅用于开发调试。

八、整体走向

FlashProve 的意义在于把 "模型有没有被掉包" 从凭感觉争论,推进到可以用数学证明说话的阶段:在 4000 亿参数模型上跑通端到端流程,普通 CPU 十几秒完成核验,且全程不泄露权重。短期看,70—95 倍的证明成本、1024 Token 上下文限制和解码口径差异,决定了它只会先出现在审计、评测和监管抽检场景;中长期若证明成本下降、上下文支持更长、快实现与形式化协议打通,可验证推理有望成为 API 采购和企业合规的标准配套。行业需要继续跟踪的方向包括:证明生成开销能否随硬件和算法迭代快速下降、官方模型承诺登记机制由谁建立、非 MoE 模型和采样解码能否被纳入证明范围,以及第三方审计对密码学实现的独立核验。

【常见问题】

问题 1:FlashProve 是什么,它如何用零知识证明识别 AI 中转套壳和模型掉包?

回答 1:FlashProve 是 Anthropic 开源的可证明推理研究原型,底层采用 zkSNARK 零知识简洁非交互式知识论证。流程分三步:服务商先把模型权重编码成公开承诺(指纹),每次回答时生成一份约 19MB 的密码学证明,用户在普通 CPU 上核验这段回答是否由承诺对应的模型产生。若中转站用廉价模型冒充、或篡改了输出 Token,证明无法与官方承诺对上,验证即失败;核验过程不泄露模型权重,也不需要自备 GPU。

问题 2:FlashProve 实测性能如何,证明生成和验证分别要花多少成本?

回答 2:在 Llama 4 Maverick(4000 亿参数 MoE,4-bit 量化)测试中,单张 H100 证明生成吞吐约 110 Token / 秒,24 个请求一批约 223 秒,单份证明约 19MB;客户端 24 线程 CPU 核验约 17 秒,单线程约 21 秒,无需 GPU。代价是证明端 GPU 时间约为 vLLM 普通推理的 70—95 倍;对照此前 VerInf 方案 14.3 小时生成、93.6GB 证明、17.7 小时核验的结果,FlashProve 在证明体积和核验速度上压缩明显。

问题 3:零知识性在 FlashProve 里具体保护了什么,模型厂商为什么愿意参与?

回答 3:零知识性意味着验证者只能确认 "承诺模型产出了这段回答",拿不到模型权重、中间计算值,也看不到 MoE 每一层实际路由到哪些专家;模型架构本身不隐藏。这一性质对闭源模型厂商是关键前提:参与证明不会把核心资产外泄,因此厂商才有可能在不交出权重的前提下,向客户和审计方提供计算关系上的完整性保证。

问题 4:FlashProve 目前还不能证明哪些情况,落地有哪些前提条件?

回答 4:目前它只覆盖 MoE 模型、整数权重和贪心解码,上下文最长 1024 Token,不包含侧信道防护;系统提示词改动、采样参数调整、量化方式变化等产品层问题不在权重一致性核验范围内。落地前提是存在可信的官方承诺发布渠道 —— 用户必须从厂商或第三方登记处拿到官方指纹并固定比对;如果承诺 ID 由中转站自己提供,证明就无法排除 "廉价模型指纹冒充旗舰" 的可能。

问题 5:除了零知识证明,目前还有哪些识别 AI 中转套壳的手段,各自局限是什么?

回答 5:常见手段包括考题 / 指纹问答(零成本但易被采样和路由干扰)、统计分布检验(不需要服务商配合但只能发现差异、难以定责)、可信执行环境 TEE(性能损耗较小但需信任硬件厂商)。FlashProve 这类零知识证明在数学可核验性和权重保护上更强,但证明成本高、尚处研究原型阶段。现实方案通常是日常用统计检验和抽样监控发现异常,出现争议时再调取密码学证明做仲裁。

【数据来源】

  • [2026-11-07](Anthropic 开源 FlashProve:用零知识证明验证大模型有没有被掉包,AI 中转站要变天了吗)阿里云开发者社区
  • [2026-11-07](刚刚 Claude 官方出手,某些中转站可能要凉了!Claude 新开源的 FlashProve 项目,能给 AI 的回)稀土掘金
  • [2026-11-07](FlashProve v0.16.0 Proves Which Model Answered [2026])SHAttered
  • [2026-11-05](Anthropic's FlashProve Catches AI Model Swaps)AI Tool Briefing
  • [2026-11-04](17 秒验明 AI"真身"!Anthropic 开源可证明推理系统,能抓模型调包)智东西(今日头条)
  • [2026-11-04](Anthropic 亲手终结「套壳 AI」,17 秒扒下假模型头套,验身速度快 5000 倍)36 氪(新智元)
  • [2026-11-04](Anthropic's FlashProve Wants a Receipt for Every AI Answer — Explained Honestly)DEV Community
  • [2026-11-04](Anthropic's FlashProve Lets Anyone Verify a Model Is Real — Without the Weights)DeepInsightAI
  • [2026-11-02](Progress on provable inference for large language models)Anthropic 官网
  • [2026-11-02](Anthropic Releases FlashProve for Cryptographic AI Inference Proofs)Unite.AI

【免责声明】

本文基于 Anthropic 官方研究文章、GitHub 开源仓库及公开媒体报道整理,所有性能数据(吞吐、证明体积、核验耗时、成本倍数等)均为 Anthropic 自述测试口径,测试硬件、权重形式和解码条件与真实线上服务存在差异,未经独立第三方复测;文中涉及的方案对比仅为公开资料梳理,不构成安全认证、采购建议或法律合规结论。FlashProve 当前定位为研究原型,其证明覆盖范围、形式化保证强度和部署路线以官方仓库及后续技术报告为准;模型身份核验、合规举证等实际场景,请结合官方承诺机制、合同条款和专业安全审计综合判断。

今日大家都在搜的词: