FlashProve 是 Anthropic 于 2026 年 11 月 2 日开源的可证明推理(Provable Inference)研究原型,底层采用 zkSNARK(零知识简洁非交互式知识论证):模型服务商先把一套模型权重编码成公开的密码学承诺(相当于权重指纹),再针对每条输入和输出生成一份证明,证明 "这段回答确实由承诺对应的模型算出来";用户或审计方不需要拿到模型权重、也不需要自备 GPU,在普通 CPU 上十几秒即可完成核验。这套机制直接针对 AI 中转站、API 路由环节常见的模型掉包风险 —— 付费调用的是旗舰模型,后台实际执行的可能是更便宜的小模型,而以往用户只能凭回答质感猜测。需要明确的是,FlashProve 目前仍是研究原型,仓库标注 "不维护、不接受贡献",证明生成成本约为普通推理的 70—95 倍,上下文仅支持 1024 个 Token,且只覆盖整数权重、贪心解码条件下的 MoE 模型,Anthropic 暂无将其部署到 Claude 服务的计划。下面从问题背景、技术流程、实测数据、能力边界和现有替代方案几个维度做分层拆解。
一、要解决的问题:API 链路里的模型身份盲区
1. 传统调用链路为什么无法验明模型身份
- 请求路径通常为 "用户 → 中转站 / 聚合网关 → 上游服务商 → 模型",用户只能看到最终返回的一段文字。
- 模型自报家门的回答本身也是后台生成的,系统提示词里加一句 "你是某旗舰模型",任何模型都可能照说,不具备证据效力。
- 凭回答风格、长度、拒答率判断容易被采样参数、上下文截断、路由策略干扰,定位不到真实原因。
- 想彻底核验只能拿到权重自己重跑一遍,但前沿模型权重是厂商核心资产,普通用户也不具备运行大模型的算力条件。
2. 公开研究中的掉包风险
- 斯坦福 Model Equality Testing 研究在 2024 年抽查了四款 Llama 模型的 31 个商业 API 端点,其中 11 个端点的输出分布与 Meta 发布权重的参考分布存在统计意义上的差异。
- 典型风险场景包括:中转站用廉价模型冒充旗舰收费、评测对象与实际服务模型不一致、攻击者入侵后篡改 Token 流混入恶意内容、更高模型顶替获批弱模型上岗以规避监控。
3. 可证明推理要回答的窄问题
FlashProve 不评判回答好不好,只回答一个可数学核验的问题:这一段输出 Token,是不是由事先承诺的那一套权重计算产生的。证明通过,只能说明指定模型完成了这次计算;证明失败,则说明输出与承诺模型对不上。
二、技术流程:承诺、证明、验证三步
1. 离线阶段:权重承诺(Commitment)
- 服务商在模型上线前,对权重做零知识编码,生成一个短指纹(承诺)并公开。
- 承诺唯一锁定一套权重,权重改动一个参数指纹就对不上;但外部无法从指纹反推权重内容。
- 实测中离线准备耗时约 39 分钟(单张 H100),服务方保存约 2.15GB 文件;客户端首次下载权重承诺、离线证明及链接证明共约 6.24MB,后续可复用。
2. 在线阶段:生成证明(Prove)
- 服务商根据输入提示词和待检查输出,记录推理计算轨迹,包括矩阵乘法、取整、非线性运算等。
- 证明说明这些运算使用了承诺中的权重,并按指定规则得到对应输出。
- 证明文件约 19MB(18.78MB),随回答一并提供给用户或审计方。
3. 验证阶段:本地核验(Verify)
- 验证者持有承诺、提示词、回答和证明文件,运行验证器(仓库命令 cp_verify)做检查。
- 全程不需要权重、不需要 GPU;24 线程 CPU 约 17 秒完成核验,单线程约 21 秒。
- 验证通过说明计算关系成立;权重不一致、Token 被篡改,证明无法与承诺对上,验证直接拒绝。
4. 证明系统的四个关键性质
| 性质 | 含义 |
|---|---|
| 完备性(Completeness) | 诚实证明者按承诺权重跑出的真实结果,证明一定能通过核验,被误伤拒绝的概率极低 |
| 可靠性(Soundness) | 伪造证明除可忽略概率外必然被识破;造假蒙混过关在数学上等同于破解公认密码学假设 |
| 零知识(Zero knowledge) | 证明不泄露权重、中间计算值,也不暴露 MoE 每层实际运行了哪些专家;模型架构本身不在隐藏范围内 |
| 简洁性(Succinctness) | 证明文件小、核验快,客户端以远低于自行运行模型的计算开销完成检查 |
三、实测数据:4000 亿参数 MoE 模型上的表现
1. 测试配置
| 项目 | 公开口径 |
|---|---|
| 测试模型 | Meta Llama 4 Maverick,4000 亿参数混合专家(MoE)模型 |
| 权重形式 | 公开 4-bit 量化权重,转换为整数模型;每个 Token 实际激活约 170 亿参数 |
| 证明端硬件 | 单张 H100 GPU + 24 CPU 核心 |
| 上下文窗口 | 1024 个 Token,每份证明主要检查紧随提示词后的一个输出 Token |
| 安全强度目标 | 128 位 |
2. 吞吐与开销指标
| 指标 | FlashProve 实测值 |
|---|---|
| 证明生成吞吐 | 约 110 Token / 秒(单张 H100) |
| 批处理规模 | 一批最多 64 个请求;24 个请求总耗时约 223 秒 |
| 单份证明大小 | 约 19MB(18.78MB) |
| 客户端核验 | 24 线程 CPU 约 17 秒;单线程约 21 秒,无需 GPU |
| 证明端 GPU 成本 | 约为 vLLM 普通推理的 70—95 倍(对照 8 张 H100 运行 FP8 版本) |
3. 与此前开源方案的对比
此前开源系统 VerInf 同样在 Llama 4 Maverick 上做验证:单台 DGX Spark 为 1000 个 Token 前向计算生成证明约需 14.3 小时,证明文件 93.6GB,20 个 CPU 核心核验约需 17.7 小时。两项测试硬件和任务设置不同,不能严格等同比较,但公开结果显示 FlashProve 的证明文件体积和客户端核验耗时都大幅压缩。
4. 三项降本优化手段
- 利用 MoE 稀疏激活:证明工作量只随实际激活的约 170 亿参数变化,省去绝大部分未参与运算参数的计算;同时用指示向量隐藏路由选择,验证器对全部专家做加权求和,既省算力又不泄露运行路径。
- 权重分段流式加载:4-bit 量化后权重约 232GB,超出单张 80GB 显存;权重保存在主机内存(约 290GB),逐段送入 GPU,算完一段即完成编码、哈希和归约,只留存传给下一段的少量状态。
- 批处理共享数据:一批请求的部分证明步骤在 GPU 上并发执行,整批共享核验权重承诺所需的查询数据,减少重复工作。
5. 事后证明(Post-hoc Proving)方式
- 为避免证明生成与推理引擎争抢显存和带宽拖慢用户体验,FlashProve 采用事后证明:推理 GPU 先生成并立即返回回答,再由独立硬件根据完整记录重新计算、生成证明。
- 代价是核验存在延迟:用户可能在发现篡改前已收到恶意回答,已经通过回答泄露的信息也无法撤回。审计、抽检、争议仲裁等对延迟不敏感的场景更适合这一方式。
四、开源内容与工程范式
1. 本次同步公开的产物
- 研究博客与技术报告
- 协议规范文档(Claude 撰写)
- 可执行代码:证明生成器、快速 C++ 验证器、经形式化验证的 Lean 验证器
- 顶层数学命题的 Lean 形式化证明,以及交互式定理可视化器
- 代码、Lean 证明和文档均以 Apache 2.0 许可证开源
2. AI 参与开发与 Lean 兜底机制
- 据 Anthropic 披露,Claude 参与了用于推理的 zkSNARK 技术优化;协议文档、底层 C++/CUDA 代码和近 400MB Lean 证明中,绝大部分由 AI 生成,测试、运行、对比和代码审校也由 AI 完成。
- 仓库语言构成:Lean 4 约占 95.2%(约 398MB),C++ 1.4%,Python 1.3%,CUDA 0.9%。
- 密码学代码容错率极低,人类专家无法逐行审读海量中间推导;项目由人类科学家敲定六条顶层安全定义,再交给 Lean 4 编译器内核逐条核对中间推导,形成 "AI 负责工程与推理、形式化验证负责兜底" 的工程范式。
五、能力边界:现在还证明不了什么
1. 技术适用范围限制
| 限制项 | 具体说明 |
|---|---|
| 模型类型 | 目前面向 MoE 混合专家模型,非 MoE 架构不在当前支持范围内 |
| 计算口径 | 证明针对整数权重、贪心解码结果;实际服务若采用浮点推理或采样解码,可能产生不同输出,出现不一致时需区分计算方式差异与回答篡改 |
| 上下文长度 | 支持上下文最长 1024 个 Token,远低于前沿模型动辄数十万、数百万 Token 的窗口 |
| 侧信道 | 不具备时间攻击等侧信道防护能力,相关内容不在安全保证范围内 |
| 形式化覆盖 | 仅较慢的 Lean 验证器与可靠性定理正式关联;快速 C++ 验证器目前只通过与 Lean 验证器一致性测试,未获得同等形式化保证;批处理请求的零知识性尚未完成形式化证明 |
| 独立审计 | 项目尚无独立安全审计,权重隐藏和对抗性证明测试仍有限 |
2. 证明本身覆盖不到的产品层面问题
- 系统提示词被修改或追加限制、安全策略调整导致拒答变多、检索内容不同、量化方式或解码参数(temperature、top_p 等)被改动,这些都不在 "权重是否一致" 的核验范围内。
- 证明只能说明相关推理确实发生过,不能排除企业在同一硬件上同时训练其他模型;对基于算力用途管控的政策要求,证明只能提供辅助参考。
3. 落地前提:可信的承诺发布机制
- FlashProve 证明的是 "输出来自承诺 X 对应的模型"。如果中转站拿出一份有效证明,但承诺对应的是它自选的模型 B,而用户无法确认 B 就是购买时约定的 A,这份证明并不能解决身份问题。
- 真正落地需要模型厂商、第三方机构或公开登记系统发布官方指纹,用户验证时固定比对官方承诺;若使用中转站提供的承诺 ID 或文件,仍存在被廉价模型指纹糊弄的空间。
- 接入证明需要上游配合:持有权重的厂商先建立可信承诺、生成证明,中转平台再把证明转交给用户;最有动机偷换模型的服务商,也最没有主动接入的激励。
4. 研究阶段定位
- 仓库版本 0.16.0,明确标注为 "研究产物:不维护、不接受贡献"。
- Anthropic 表示本次发布是可证明推理技术的阶段性进展,供其他研究者复现和改进;暂无在 Anthropic 自有服务或 Claude API 中部署该系统的计划。
六、现有模型身份核验手段对照
| 方案 | 思路 | 优势 | 局限 |
|---|---|---|---|
| 考题 / 指纹问答 | 用特定问题探测模型知识 | 零成本、随手可做 | 易受采样和路由干扰,结论不可靠 |
| 统计分布检验 | 大量采样后与参考模型输出分布对比 | 不需要服务商配合 | 调用量大,只能发现差异、难以定责 |
| 可信执行环境(TEE) | 推理在硬件隔离环境运行并出具远程证明 | 性能损耗相对小 | 需要信任硬件厂商,依赖特定硬件 |
| 零知识证明(FlashProve 路线) | 为每次计算生成密码学证明 | 数学上可核验,不泄露权重 | 证明成本高,需要可信承诺发布机制,目前仍是原型 |
同期其他进展:2 月 3 日 AI 隐私服务商 Tinfoil 介绍 Modelwrap 方案,通过安全硬件与权重承诺核验模型身份;8 月以色列 AI 安全公司 Attestable 公开面向大模型的零知识推理证明方案,测试结果覆盖 Gemma 4 31B。几种手段并不互斥,现实中更可能是组合使用:日常用统计检验和抽样监控发现异常,出现争议时再调取密码学证明。
七、对开发者与采购方的现实建议
在证明普及之前,通过中转渠道调用模型的团队可以先做低成本防护:
- 建立基线:挑选 20—50 道覆盖代码、推理、长文本的固定测试题,分别在官方接口和中转接口运行,记录正确率、平均输出长度和耗时。
- 固定参数:测试时显式指定 temperature、max_tokens 等参数,排除默认值差异带来的干扰。
- 定期回归:把基线测试做成定时任务,每周跑一次,指标明显下滑即报警。
- 核对用量:对比接口返回的 Token 用量与本地分词估算,差距过大需要警惕。
- 关键链路走官方:涉及生产数据和合规要求的核心业务,优先直连官方或有正规合同的云厂商,中转渠道仅用于开发调试。
八、整体走向
FlashProve 的意义在于把 "模型有没有被掉包" 从凭感觉争论,推进到可以用数学证明说话的阶段:在 4000 亿参数模型上跑通端到端流程,普通 CPU 十几秒完成核验,且全程不泄露权重。短期看,70—95 倍的证明成本、1024 Token 上下文限制和解码口径差异,决定了它只会先出现在审计、评测和监管抽检场景;中长期若证明成本下降、上下文支持更长、快实现与形式化协议打通,可验证推理有望成为 API 采购和企业合规的标准配套。行业需要继续跟踪的方向包括:证明生成开销能否随硬件和算法迭代快速下降、官方模型承诺登记机制由谁建立、非 MoE 模型和采样解码能否被纳入证明范围,以及第三方审计对密码学实现的独立核验。
【常见问题】
问题 1:FlashProve 是什么,它如何用零知识证明识别 AI 中转套壳和模型掉包?
回答 1:FlashProve 是 Anthropic 开源的可证明推理研究原型,底层采用 zkSNARK 零知识简洁非交互式知识论证。流程分三步:服务商先把模型权重编码成公开承诺(指纹),每次回答时生成一份约 19MB 的密码学证明,用户在普通 CPU 上核验这段回答是否由承诺对应的模型产生。若中转站用廉价模型冒充、或篡改了输出 Token,证明无法与官方承诺对上,验证即失败;核验过程不泄露模型权重,也不需要自备 GPU。
问题 2:FlashProve 实测性能如何,证明生成和验证分别要花多少成本?
回答 2:在 Llama 4 Maverick(4000 亿参数 MoE,4-bit 量化)测试中,单张 H100 证明生成吞吐约 110 Token / 秒,24 个请求一批约 223 秒,单份证明约 19MB;客户端 24 线程 CPU 核验约 17 秒,单线程约 21 秒,无需 GPU。代价是证明端 GPU 时间约为 vLLM 普通推理的 70—95 倍;对照此前 VerInf 方案 14.3 小时生成、93.6GB 证明、17.7 小时核验的结果,FlashProve 在证明体积和核验速度上压缩明显。
问题 3:零知识性在 FlashProve 里具体保护了什么,模型厂商为什么愿意参与?
回答 3:零知识性意味着验证者只能确认 "承诺模型产出了这段回答",拿不到模型权重、中间计算值,也看不到 MoE 每一层实际路由到哪些专家;模型架构本身不隐藏。这一性质对闭源模型厂商是关键前提:参与证明不会把核心资产外泄,因此厂商才有可能在不交出权重的前提下,向客户和审计方提供计算关系上的完整性保证。
问题 4:FlashProve 目前还不能证明哪些情况,落地有哪些前提条件?
回答 4:目前它只覆盖 MoE 模型、整数权重和贪心解码,上下文最长 1024 Token,不包含侧信道防护;系统提示词改动、采样参数调整、量化方式变化等产品层问题不在权重一致性核验范围内。落地前提是存在可信的官方承诺发布渠道 —— 用户必须从厂商或第三方登记处拿到官方指纹并固定比对;如果承诺 ID 由中转站自己提供,证明就无法排除 "廉价模型指纹冒充旗舰" 的可能。
问题 5:除了零知识证明,目前还有哪些识别 AI 中转套壳的手段,各自局限是什么?
回答 5:常见手段包括考题 / 指纹问答(零成本但易被采样和路由干扰)、统计分布检验(不需要服务商配合但只能发现差异、难以定责)、可信执行环境 TEE(性能损耗较小但需信任硬件厂商)。FlashProve 这类零知识证明在数学可核验性和权重保护上更强,但证明成本高、尚处研究原型阶段。现实方案通常是日常用统计检验和抽样监控发现异常,出现争议时再调取密码学证明做仲裁。
【数据来源】
- [2026-11-07](Anthropic 开源 FlashProve:用零知识证明验证大模型有没有被掉包,AI 中转站要变天了吗)阿里云开发者社区
- [2026-11-07](刚刚 Claude 官方出手,某些中转站可能要凉了!Claude 新开源的 FlashProve 项目,能给 AI 的回)稀土掘金
- [2026-11-07](FlashProve v0.16.0 Proves Which Model Answered [2026])SHAttered
- [2026-11-05](Anthropic's FlashProve Catches AI Model Swaps)AI Tool Briefing
- [2026-11-04](17 秒验明 AI"真身"!Anthropic 开源可证明推理系统,能抓模型调包)智东西(今日头条)
- [2026-11-04](Anthropic 亲手终结「套壳 AI」,17 秒扒下假模型头套,验身速度快 5000 倍)36 氪(新智元)
- [2026-11-04](Anthropic's FlashProve Wants a Receipt for Every AI Answer — Explained Honestly)DEV Community
- [2026-11-04](Anthropic's FlashProve Lets Anyone Verify a Model Is Real — Without the Weights)DeepInsightAI
- [2026-11-02](Progress on provable inference for large language models)Anthropic 官网
- [2026-11-02](Anthropic Releases FlashProve for Cryptographic AI Inference Proofs)Unite.AI
【免责声明】
本文基于 Anthropic 官方研究文章、GitHub 开源仓库及公开媒体报道整理,所有性能数据(吞吐、证明体积、核验耗时、成本倍数等)均为 Anthropic 自述测试口径,测试硬件、权重形式和解码条件与真实线上服务存在差异,未经独立第三方复测;文中涉及的方案对比仅为公开资料梳理,不构成安全认证、采购建议或法律合规结论。FlashProve 当前定位为研究原型,其证明覆盖范围、形式化保证强度和部署路线以官方仓库及后续技术报告为准;模型身份核验、合规举证等实际场景,请结合官方承诺机制、合同条款和专业安全审计综合判断。
