你的AI API,可能正在被“减配”
很多玩家找第三方渠道充值、买Key,图的就是便宜方便。但在AI领域,这背后的“减配”风险可不小:你花着顶配模型的价钱,中转站会不会在后台偷偷给你换成成本更低的小模型?
哪怕最后回答质量看起来还行,你又怎么证明这是你指定的“正版官服”模型生成的?不仅是中转站,模型路由平台转发时偷梁换柱,或者推理服务器被黑客攻击篡改了输出,普通用户几乎无法察觉。目前,我们只能靠信任服务商的口头承诺。
零知识证明:给AI回答盖个“防伪章”
Anthropic最新开源的 FlashProve 系统,就是来解决这个信任危机的。它基于零知识密码学证明(zkSNARK)技术,给大模型的每一次推理办了一张「防伪身份证」。
其核心逻辑其实不难懂:
- 模型加密指纹:服务商先给确定的模型权重生成一个“承诺”(Commitment),相当于模型版本的加密指纹。
- 附带证明输出:用户发起请求时,服务商在返回回答的同时,附上一份零知识证明。
- 独立验证身份:用户不需要拿到模型权重,也不用自己重跑一遍模型,仅凭证明、输入和输出,就能验证回答是否由此前承诺的模型生成。
【编辑观察】这个过程不会泄露厂商的核心权重,但能实锤“这回答到底是谁家模型生的”。不过要注意,它只验“出身”,不验“对错”——模型要是产生幻觉了,这张身份证可管不着。
4000亿参数实测:H100生成,普通CPU可验
过去零知识机器学习大多只能在小模型上玩玩,FlashProve这次直接上了大的。Anthropic使用Meta的 Llama 4 Maverick 进行了测试,这是一个总参数量达 4000亿(400B) 的混合专家(MoE)模型,每个Token实际激活约170亿参数。
实测核心数据如下:
- 生成速度:单张 NVIDIA H100 GPU 每秒可生成约 110 个 Token 的推理证明。
- 文件大小:每 1024 Token 请求的证明文件约为 18.78 MB。
- 验证门槛:验证端不需要高端显卡,使用 24 线程 CPU 验证一份证明约需 17 秒。
效率的提升得益于对MoE架构的深度优化:证明计算主要围绕实际激活的专家展开,而不是每次都硬扛全部4000亿参数。同时系统采用批量事后证明,推理完成后再统一生成证明,减少了重复计算开销。
谁最需要这张身份证?第三方API用户狂喜
对于经常通过第三方API聚合平台调用模型的开发者和企业来说,这一技术简直是刚需。
在多层转发的链路中,信息极度不透明。回答质量变差了,你甚至分不清是模型抽风、服务波动,还是服务商偷偷给你换了便宜模型。有了FlashProve,服务商若提前公布权重承诺,用户就能拿着凭证自己核对,造假几乎不可能成功。
目前,Anthropic已经开源了FlashProve的证明生成器、C++和Lean验证器,以及技术文档和形式化证明(采用Apache 2.0许可证)。他们甚至使用Lean形式化验证语言,对协议的完整性、可靠性和零知识等核心安全性质进行了机器可检查的证明。
现阶段短板:成本高昂,限制不少
虽然前景很美好,但Anthropic坦言FlashProve目前还只是个研究原型,距离大规模商用还有不少工程坑要填:
- 算力成本高昂:生成证明所需的GPU时间约为普通vLLM推理的70至95倍。如果每个请求都实时开证明,服务商的账单估计要爆炸。
- 推理方式受限:目前实验主要针对整数运算模型和贪婪解码(Greedy Decoding),浮点计算、随机采样等常见方式还需进一步扩展。
- 上下文太短:目前仅支持1024 Token的上下文窗口,长文本对话和复杂Agent工作流暂时Hold不住。
- 不保证准确性:它能证明“这是正品模型说的话”,但不能证明“这句话一定是对的”。
【编辑观察】尽管成本和通用性还有待打磨,但FlashProve把“不可篡改的模型身份证”从纯学术设想拉到了工程实操阶段。未来在医疗、金融、法律等高风险场景,模型交付给用户的可能不只有回答,还得附带一份“验明正身”的密码学凭证。AI行业的信任基础设施,正在被重塑。





评论
70到95倍于普通推理的GPU开销摆在这,短期内多半只能抽检式验证而非每个请求都开证明,但至少第三方API用户被偷换模型时第一次有了拿得出手的凭证。用Lean给协议做形式化证明这个细节是真硬核,另外文中说得很准:它只验出身不验对错,模型幻觉这身份证管不着。