代码验证

科技人工智能

Anthropic Claude Code团队详解AI编程代理验证策略

Anthropic的Claude Code团队发布文章,阐述如何通过端到端、属性和差分测试来验证AI编程代理的工作成果 。在90%的代码由Claude编写和审查的背景下,建立可靠的验证循环对于并行运行大量代理至关重要 。引入独立评分器(grader)检查Claude的工作可将任务成功率提高最多10个百分点 。

科技人工智能

大语言模型助力形式化软件验证大规模应用成为现实

Claude大语言模型与Theorem合作展开的验证项目表明,LLM已能将形式化软件验证从传统的小规模、高成本工作扩展至产业级应用。该项目首次在汇编代码层面对Google OSS-Fuzz计划下的123个开源库进行了大规模形式化验证,覆盖239个模糊测试入口点。Claude为这些入口点生成了无崩溃保证的证明(假设输入…

科技创业公司

K-Veritas:用密码学签名证明代码的真实产出

开源工具 K-Veritas 已在 Hacker News 上发布,旨在解决科研和代码审查中的信任问题。该工具通过密码学签名的 PDF 将已发布的计算结果绑定到生成它的确切代码、硬件和时间,使审阅者无需重新运行代码即可验证结果的真实性。

科技人工智能

形式化方法为何在软件开发中未被广泛采用

形式化方法在软件验证中的应用率长期保持低位,这一现象背后存在技术和社会文化的双重障碍。在代码验证领域,主要困难包括规范获取、证明复杂度高以及需要多学科背景等技术问题。历史上,早期手工证明方法的错误率很高,研究者Peter Guttmann指出约20%的已发表数学证明存在错误。即使在现代自动化工具的支持下,验证工作仍然…