Anthropic 和 Theorem 使用 Claude 扩展了真实世界软件的形式化验证。Claude 为 123 个开源库中的 239 个模糊测试入口点证明了安全属性,表明在 RISC-V/Linux 上单线程静态二进制文件假设下,编译后的 RISC-V 程序不会因内存安全错误或断言失败而在任意小于 64 MB 的输入下崩溃。该工作生成了约 1.8 亿行 Rocq 证明,并发现了许多长期隐藏的错误,包括一些需要大或异常输入的错误。相同方法还支持了其他案例研究,例如证明 zlib 正确性和验证 Rust Python 解释器。作者认为,LLM 可以使形式化验证在关键任务软件之外变得实用,尽管证明依赖于规范和机器模型,因此已验证代码并不保证无 bug。他们预计验证将成为安全软件开发的标准部分。