Folia
← 返回头版

Anthropic联合多方开源FlashProve,实现大语言模型可证明推理

Anthropic携手EPFL、MIT及StarkWare等机构,正式发布了名为FlashProve的系统,旨在通过零知识简洁论证(zkSNARK)技术解决大型语言模型的“可证明推理”问题 1。该系统的核心目标是确保用户收到的回复确实由声称的特定模型生成,从而防止路由服务替换模型或攻击者篡改Token流 1。FlashProve允许提供者在隐藏模型权重的前提下,证明响应是由承诺的模型生成的 1。

在性能方面,团队针对拥有4000亿参数的混合专家模型Llama 4 Maverick进行了测试,结果显示单张H100 GPU可实现每秒约110个token的证明生成速度 1。尽管这一过程比直接运行vLLM耗时高出70至95倍,但相比此前存在的开源系统,其速度提升了数个数量级 1。每处理一个1024-token的请求,生成的证明大小约为19 MB,而验证过程仅需普通CPU且耗时数秒 1。

FlashProve现已全面开源,包括博客文章、技术报告、协议规范以及基于C++和Lean验证器的可执行代码 1。为了保障安全,开发团队使用Lean证明助手对协议的完整性、可靠性和零知识性进行了形式化验证 1。相关文档均在Apache 2.0许可证下发布 1。该系统为AI发展节奏监控、入侵检测、文本溯源验证及合规模型审批提供了新的密码学工具 1。


评论