AI 回答也能验真了？

聊聊 FlashProve

最近 Anthropic 放出了一个叫 FlashProve 的研究原型，思路挺有意思：用密码学手段验证一段 AI 回答到底是不是出自它声称的那个模型。说白了，现在我们把请求发给某个模型，其实没有任何办法确认返回结果真是它生成的，中间环节完全是个黑箱。

这个黑箱的风险比很多人想的大。路由服务完全可以在背后偷偷换成便宜模型来压成本，攻击者也可能篡改数据流，而用户端几乎察觉不到。FlashProve 用的是 zkSNARK 这套零知识证明技术，模型方先给权重生成数字指纹，之后每次回答都附上一份紧凑证明，证明这段输出确实由该模型产生，同时又不会泄露模型权重本身。性能数据是这次比较值得关注的点。技术报告里提到，在单张 H100 上跑 Meta 的 Llama 4 Maverick（4000 亿参数级别），证明生成速度大约是每秒 110 个 token。这个数字放在研究原型里算能看了，至少不是那种慢到没法用的演示。但我觉得别急着把它当成行业标准。Anthropic 自己也承认这个系统还有明显局限，而且它目前只是开源研究原型，离生产级部署还有距离。证明生成的开销、对模型架构的适配、以及谁来信任初始指纹，这些工程和信任问题都还没解决。我的判断是，这件事真正的意义不在于 FlashProve 本身能不能用，而在于它把「模型身份可验证」这个议题摆上了台面。做 API 聚合、模型路由的团队，未来大概率要面对客户这样的追问：我怎么知道你没给我换模型？提前关注这类方案，比等被问住再补课要从容得多。