## Anthropic 的 Claude Mythos:炒作与现实
Anthropic 推出的 Claude Mythos,被宣传为一项突破性的网络安全工具,但仔细研究他们的 244 页系统卡后,其炒作程度似乎被夸大了。尽管声称发现了“数千”个零日漏洞,但技术文档缺乏可量化的证据,缺少关键细节,如 CVE 编号、严重程度评级或与现有工具的比较。
核心演示——利用 Firefox 中的漏洞——依赖于一个经过大量修改的测试环境*没有*标准安全保护,使用的漏洞已经被修复,并且最初是*由另一个 Anthropic 模型发现的*。仅去除两个容易利用的漏洞,Mythos 的成功率从 72.4% 降至仅 4.4%,表现与旧模型相似。独立测试证实了这些发现,较小、更便宜的模型可以复制展示的漏洞。
除了技术上的不足,人们还对“1 亿美元防御倡议”表示担忧——该倡议主要由产品积分而非直接资金组成——以及专属的 Glasswing 联盟。该联盟汇集了多家大型科技公司,实际上创建了一个私有的漏洞披露系统,引发了对监管俘获和透明度有限的担忧。
最终,报告表明 Mythos 只是一个更快,但并非全新的漏洞扫描器。真正的风险不是该工具本身,而是由私营公司控制安全信息访问权,并可能塑造围绕人工智能驱动的威胁的叙述所设定的先例。
## Palantir 与英国国民医疗服务体系:重塑语言以理解监控
本次演讲发布了Medact关于Palantir参与英国国民医疗服务体系的简报,警告了不受控制的人工智能和数据监控的危险。演讲者是一位前人工智能行业专业人士,他强调了像Palantir这样与战争罪有历史联系的公司开发的工具,正日益影响着平民生活,从而引发了议会对国民医疗服务体系合同的审查。
核心论点在于*理解*这些复杂系统,而不是需要技术专业知识。演讲者呼吁从营销炒作中“重塑语言”,将Palantir定位为一个模型,而不是一个独特的实体,它代表了众多提供预测监控的公司。Palantir这个名字,借自托尔金的“全知之石”,具有讽刺意味地预示了这些技术中固有的过度自信和潜在的误判。
至关重要的是,演讲强调了这些系统嵌入的“本体论”——潜在的世界观。这种本体论并非中立的;它可以编码偏见,强化意识形态,并最终导致歧视,正如Palantir的工作对多元化倡议的影响所见。演讲者提倡对数据来源、算法设计和自动化决策进行批判性审查,认识到这些公司的利润驱动型动机以及由此产生的问责缺失。最终,挑战这些系统需要重塑我们对现实的理解,并抵制单一、潜在有害的世界观的强加。
## 细菌鞭毛电机:十亿年的工程学
数十亿年来,早期生命面临着一个根本挑战:向养分移动。 进化精益求精的解决方案是细菌鞭毛电机——一种极其高效的分子机器,为细菌的运动提供动力。这个“螺旋桨/大脑”以惊人的速度旋转,利用鞭毛状结构在水中推动细胞,在前进运动和随机翻滚之间切换以寻找营养物质。
最近的突破,利用低温电子显微镜成像,终于揭示了电机的复杂运作机制。 它由“质子动力”驱动——持续的质子流入细胞,被像旋转栅门一样的定子蛋白利用。 这种单向质子流被巧妙地转化为双向旋转,使电机能够根据化学信号改变方向,引导细菌寻找食物。
最初科学家认为鞭毛电机“荒谬”,其复杂性长期以来引发争论,一些创造论者将其作为“不可简化复杂性”的证据。 然而,详细的结构分析表明其逐渐进化。 理解这种电机不仅仅是关于细菌的运动;它阐明了一种驱动所有细胞过程的根本“生命力”,展示了物理学和进化协同作用的力量。
这个演示探索了一种玩具语言,它结合了动态类型和内联值、栈分配、内部指针、单一所有权和有限借用等特性——旨在实现超越简单引用的表达能力,但比 Rust 的借用检查器更简单。核心挑战是在*没有*静态类型的情况下实现内存安全,并高效地实现。
这种方法模仿 Julia 和 Zig 的分层类型:从动态开始,然后添加静态检查以消除可能的开销。该实现允许通过显式注释在动态(解释型)和静态(编译型)代码之间切换。使用了一种新颖的动态借用检查系统,依赖于引用计数(仅限于栈分配以提高性能),并在违反规则时立即在运行时报错。
关键限制确保安全:所有者引用不能指向借用的数据,并且禁止某些借用模式。该系统跟踪引用来源(所有者和借用者),以提供信息丰富的错误消息。虽然有局限性,但它实现了诸如从函数返回引用和遍历链表等功能,而这些功能仅使用二级引用是无法实现的。作者承认该系统比较复杂,并探讨了潜在的改进,例如更隐式的解引用或转向二级引用和协程,灵感来自 Hylo。未来的工作可能包括完全静态类型或改进动态代码的易用性。