你的AI API,可能正在被“减配”

很多玩家找第三方渠道充值、买Key,图的就是便宜方便。但在AI领域,这背后的“减配”风险可不小:你花着顶配模型的价钱,中转站会不会在后台偷偷给你换成成本更低的小模型?

哪怕最后回答质量看起来还行,你又怎么证明这是你指定的“正版官服”模型生成的?不仅是中转站,模型路由平台转发时偷梁换柱,或者推理服务器被黑客攻击篡改了输出,普通用户几乎无法察觉。目前,我们只能靠信任服务商的口头承诺。

零知识证明:给AI回答盖个“防伪章”

Anthropic最新开源的 FlashProve 系统,就是来解决这个信任危机的。它基于零知识密码学证明(zkSNARK)技术,给大模型的每一次推理办了一张「防伪身份证」。

其核心逻辑其实不难懂:

  • 模型加密指纹:服务商先给确定的模型权重生成一个“承诺”(Commitment),相当于模型版本的加密指纹。
  • 附带证明输出:用户发起请求时,服务商在返回回答的同时,附上一份零知识证明。
  • 独立验证身份:用户不需要拿到模型权重,也不用自己重跑一遍模型,仅凭证明、输入和输出,就能验证回答是否由此前承诺的模型生成。

【编辑观察】这个过程不会泄露厂商的核心权重,但能实锤“这回答到底是谁家模型生的”。不过要注意,它只验“出身”,不验“对错”——模型要是产生幻觉了,这张身份证可管不着。

4000亿参数实测:H100生成,普通CPU可验

过去零知识机器学习大多只能在小模型上玩玩,FlashProve这次直接上了大的。Anthropic使用Meta的 Llama 4 Maverick 进行了测试,这是一个总参数量达 4000亿(400B) 的混合专家(MoE)模型,每个Token实际激活约170亿参数。

实测核心数据如下:

  • 生成速度:单张 NVIDIA H100 GPU 每秒可生成约 110 个 Token 的推理证明。
  • 文件大小:每 1024 Token 请求的证明文件约为 18.78 MB。
  • 验证门槛:验证端不需要高端显卡,使用 24 线程 CPU 验证一份证明约需 17 秒。

效率的提升得益于对MoE架构的深度优化:证明计算主要围绕实际激活的专家展开,而不是每次都硬扛全部4000亿参数。同时系统采用批量事后证明,推理完成后再统一生成证明,减少了重复计算开销。

谁最需要这张身份证?第三方API用户狂喜

对于经常通过第三方API聚合平台调用模型的开发者和企业来说,这一技术简直是刚需。

在多层转发的链路中,信息极度不透明。回答质量变差了,你甚至分不清是模型抽风、服务波动,还是服务商偷偷给你换了便宜模型。有了FlashProve,服务商若提前公布权重承诺,用户就能拿着凭证自己核对,造假几乎不可能成功。

目前,Anthropic已经开源了FlashProve的证明生成器、C++和Lean验证器,以及技术文档和形式化证明(采用Apache 2.0许可证)。他们甚至使用Lean形式化验证语言,对协议的完整性、可靠性和零知识等核心安全性质进行了机器可检查的证明。

现阶段短板:成本高昂,限制不少

虽然前景很美好,但Anthropic坦言FlashProve目前还只是个研究原型,距离大规模商用还有不少工程坑要填:

  • 算力成本高昂:生成证明所需的GPU时间约为普通vLLM推理的70至95倍。如果每个请求都实时开证明,服务商的账单估计要爆炸。
  • 推理方式受限:目前实验主要针对整数运算模型和贪婪解码(Greedy Decoding),浮点计算、随机采样等常见方式还需进一步扩展。
  • 上下文太短:目前仅支持1024 Token的上下文窗口,长文本对话和复杂Agent工作流暂时Hold不住。
  • 不保证准确性:它能证明“这是正品模型说的话”,但不能证明“这句话一定是对的”。

【编辑观察】尽管成本和通用性还有待打磨,但FlashProve把“不可篡改的模型身份证”从纯学术设想拉到了工程实操阶段。未来在医疗、金融、法律等高风险场景,模型交付给用户的可能不只有回答,还得附带一份“验明正身”的密码学凭证。AI行业的信任基础设施,正在被重塑。