Anthropic开源密码学验证AI推理系统
报价宝综合消息Anthropic开源密码学验证AI推理系统
Anthropic 发布开源项目 FlashProve，让用户可以用密码学方法验证「一段 AI 回复确实出自所声称的那个模型」。该系统以 zkSNARK（零知识简洁非交互式知识证明）为基础，代码、Lean 形式化证明与文档均以 Apache 2.0 协议公开。
要解决的问题很现实：用户调用模型时，几乎无从判断响应究竟出自宣称的模型，还是被中转路由服务悄悄换成了更便宜的替代品，甚至被攻击者篡改了输出流——仅凭输出质量判断并不可靠。所谓「可验证推理」，就是让模型提供方对模型作出密码学承诺，再为每一次响应生成证明。
性能是本次的关键突破。在一个大模型上（4000 亿参数的 Llama 4 Maverick），单张 H100 在 4 比特量化下能以约每秒 110 个 token 的速度生成证明，每 1024 个 token 请求的证明体积约 19MB。代价是 GPU 算力：生成证明的耗时约为直接运行推理的 70 至 95 倍，但仍比此前开源方案快了几个数量级。
有趣的是，这套系统的优化工作大量由 Claude 自己完成。研究团队坦言，Claude 擅长优化、但常做出难以评估的决策，因此他们用形式化验证语言 Lean 为核心安全声明写下了可审计的数学证明，并附带交互式可视化工具，供外部审计者核查。
Anthropic 表示，此类证明可应用于消费产品与企业内部安全，并有望成为核查「AI 发展节奏合规要求」工具箱的一部分。团队强调，这只是阶段性研究进展，而非完整研究议程的终点。
编译自 Anthropic，原标题："Provable inference"
