#人工智能 A 社开源发布 FlashProve 研究原型，可验证 AI 回复是否来自指定模型，比如你选择 Astra 结果给你路由到 Luna。该技术使用名为 zkSNARK 的零知识证明技术，先对模型权重作出密码学承诺，接着为推理结果生成证明。用户可以检查这证明确认结果对应承诺的模型，问题是这个技术要模型提供商主动介入证明流程，经常悄悄降智的公司肯定不愿意部署。查看全文：https://ourl.co/128121
A 社日前开源发布研究原型 FlashProve，该原型旨在帮助用户验证 AI 给出的回复是否由服务商承诺的模型生成。该技术被称为可证明推理：模型先对一组模型权重作出密码学承诺，接着为推理结果生成证明。用户可以检查证明确认结果对应承诺的模型，同时模型权重仍然可以保持私有。
用户通过模型服务提供商的 API 或 API 中转站调用模型时，通常只能看到平台上标注的模型名称和最终回复。对于依赖特定模型的开发者来说，验证实际运行大模型有助于确认服务质量和使用成本。
比如很多开发者在使用 Codex 时发现，自己明明选择的是 GPT-6 Astra，但模型给出的回复质量不尽人意。OpenAI 经常对被风控的账号进行降智和自动路由，比如自动路由到 GPT-6 Luna 等模型。
FlashProve 使用名为 zkSNARK 的零知识证明技术，简单来说，模型提供方可以证明一项计算是按照事先承诺的模型完成的，验证方则可以检查证明，无需获取模型权重。
A 社认为这种验证机制可以用于第三方模型服务、企业内部安全和模型评测，例如企业购买某个模型的 API 服务后，可以验证服务提供方的推理结果是否对应约定的模型。评测机构也可以确认测试对象使用的模型权重。
问题是这种验证需要模型提供方接入相应的证明流程、让验证者获得可信的模型权重承诺。证明所对应的模型身份，取决于这一承诺与服务方宣传的模型之间的关联。
A 社通过 Apache 2.0 许可证开源发布 FlashProve 的代码、文档和 Lean 形式化证明，项目包含证明生成程序、C++ 验证程序以及使用 Lean 编写的验证程序和数学证明。
A 社表示，Claude 参与了系统优化和协议说明编写，研究团队还使用 Lean 描述并验证关键安全性质，方便研究人员检查证明系统的设计。A 社也希望开发者和研究人员在此基础上继续改进性能并探索模型服务、独立评测和安全审计等用途。
