本文将**退相干**定义为系统内局部有效但相互不兼容的模型的累积,使得变更代价高昂且容易出错。AI 正在以不可持续的速度加速这一过程:智能体在未完成工作的情况下生成更多代码与复杂性,而身处压力下的人类早已在增加退相干。与令人恐惧的智能爆炸不同,退相干阻止 AI 在孤立状态下自我改进,因为**相干性**——软件的适应性——只能通过现实世界的反馈来验证,而非在封闭环境中。这导致一种不同的威胁:**退相干崩溃**,即系统变得如此复杂,智能体能够维护它们却无法修复或简化它们,将社会锁定在逐渐衰退之中。本文敦促从快速、碎片化的变革转向重建相干性,强调开源协作是一种已被验证的模式,并警告若无此类努力,我们可能面临数年甚至数十年的停滞。
大语言模型正日益能够利用漏洞和编写经验证的软件,但扩展验证需要可信的形式化语义。Basis 的实验使用了一种扩展的 WHILE 语言:大语言模型编写了 Lean 语义,并证明其与 RISC-V 上编译后的 C 解释器匹配。仅靠测试会遗漏实现细节,例如 63 字节的 snprintf 截断,因此证明通过将二进制文件视为真值强制修正。精化定理确保语义既不许可也不遗漏解释器行为。证明内存推理需要为 malloc 提供分离逻辑。在已验证的语义之上,大语言模型构建了类型检查器、程序逻辑、抽象解释器和经验证的编译器。该团队现在计划将此扩展到 Lua、OCaml 和最终 CPython 等真实语言,使关键系统在设计上安全。
在 macOS 上,你可以使用 Secure Enclave 创建受 Touch ID 保护、不可提取的 SSH 身份。设置:使用 `sc_auth create-ctk-identity -l ssh-key -k p-256-ne -t bio` 创建;重启后使用 `ssh-add -K -S /usr/lib/ssh-keychain.dylib` 加载;并使用 `ssh-add -L` 获取公钥用于 GitHub。私钥永远不会离开 Secure Enclave,无法提取,且需要生物识别授权;如果 Mac 损坏,身份会丢失。底层上,`sc_auth` 创建 CryptoTokenKit 身份,而 `ssh-keychain.dylib` 作为 FIDO 风格提供者桥接 SSH 与 Secure Enclave:SSH 加载驻留公钥,Secure Enclave 签署认证挑战并触发 Touch ID。这提供了无需私钥文件的硬件支持 SSH 认证。