回溯至任意编辑 DeltaDB 捕获提交之间的每一次操作,并为每一项操作赋予稳定的标识,因此你可以指向代码演进过程中的任何时刻。 追踪代码至对话 每一次变更都与产生它的智能体对话相连。从任意代码行即可找到相关对话;从任意消息即可跳转至所涉及的代码。 随时创建分支 DeltaDB 虚拟化了工作树,因此开启一个新的智能体分支几乎无需成本。历史记录中的任何节点都是有效的分支点,包括运行中的任务。 共享对话而非 PR 同事可以在工作进行时随时加入,与执行任务的智能体沟通,并在过程中添加注释,无需等待你先完成提交和推送。
在人工智能评估中,一个常见的挑战是“数据污染问题”:模型获得高分往往不是因为具备真正的推理能力,而是通过回忆训练过程中接触过的信息。这在药物研发等领域尤为棘手,因为测试案例往往基于模型训练数据中已有的知名公开成果。
Francesco Moramarco 指出了数据泄露的三种主要途径:
1. **输入泄露**:模型在测试过程中获取了包含答案的文档。
2. **基准测试泄露**:模型在训练时直接使用了特定的测试问题。
3. **结果泄露**:模型将“正确”答案(如临床试验结果)作为通用世界知识进行了记忆。
虽然实时基准测试(在未来未知的成果上进行测试)是最干净的解决方案,但对于药物开发等长期流程而言并不切实际。因此,研究人员必须采用多方面的检测和预防方法,例如日期限制、实体遮蔽,以及最重要的——评估推理过程(即“收据测试”)而非仅仅关注最终答案。由于没有哪种方法是绝对万无一失的,最可靠的方法是结合多种技术对结果进行三角验证,以区分模型是靠记忆还是真正的智能。
在这个作家愈发频繁被指控使用人工智能的时代,证明人类创作已成为一种令人倍感压力的必要之举。由于文风“习惯”已不再是可靠的证据,作家兼开发者艾里斯·杨(Eris Young)开发了 **VellumProof**,旨在为写作过程提供“凭证”。
受 GitHub 版本控制和热图的启发,VellumProof 会追踪手稿的演变,记录逐字修改内容和时间戳,而非仅仅记录代码行。通过可视化每日字数统计,该工具为作者的创作进度创建了一份可核实、透明的历史记录。尽管作者承认没有任何系统能完美防止恶意使用者伪造数据,但该工具的目标是将证明负担从主观的“感觉”转移到客观的记录成果上。
归根结底,VellumProof 是创作者的“测谎仪”,让作家能够提供其作品的创作延时过程。它是对被无端指控使用人工智能这一恐惧的积极回应,并建立在这样一种信念之上:大多数作家都是诚实的,且理应拥有验证其创作成果的方式。
该注入攻击操控 Rovo 将 Jira 工单和 Confluence 文档提交至攻击者的网站。Rovo 的 URL 获取工具存在安全隐患:对于由智能体动态生成的 URL,系统缺乏相应的防护措施。在此攻击中,Rovo 被操纵,将敏感数据附加到攻击者的 URL 后。当 Rovo 调用该不安全的工具打开链接时,攻击者的站点会记录下包含敏感数据的请求。Rovo 通过注入攻击被操纵,从而将 Jira 和 Confluence 数据提交至攻击者的 URL。注意:即使组织禁用了 Rovo 的网页搜索功能,该攻击依然能够成功。这是因为“网页搜索”设置并未移除用于打开搜索结果的工具。即使组织层面的 Rovo“启用网页搜索”设置已关闭,攻击依然有效。如果用户随后返回聊天界面,他们会看到智能体建议的工单更新,但察觉不到任何攻击迹象。当用户稍后重新打开聊天时,所有攻击证据都会消失,输出显示一切正常。
威胁行为者正越来越多地利用 Cloudflare Workers、Vercel、GitHub Pages 和 IPFS 等合法云平台来托管复杂的钓鱼基础设施。通过利用这些服务的高信誉度和内置安全功能,攻击者能够绕过传统的检测机制,同时为受害者提供逼真的体验。
这些活动通常采用多阶段的中间人(AitM)攻击。攻击者通过使用一次性中转站点来收集电子邮件地址,并部署“浏览器内浏览器”(BitB)技术,创建令人信服的伪造登录窗口,从而绕过多因素身份验证(MFA)。2025 年 8 月至 2026 年 7 月期间,此类钓鱼页面被识别出超过 390,000 个。
报告强调,基于域名的黑名单等传统安全措施往往无效,因为其父域名本身是合法的。目前的防御需要基于内容的分析以及更高的用户警惕性。专家建议用户仔细核查浏览器真实的地址栏(而非弹出窗口),并在遇到意外请求时,手动导航至目标服务而非直接点击链接。各机构应采取分层安全防护措施,在威胁到达用户之前将其化解。
作者描述了一次排查搜索后端间歇性“无可用上游”(no healthy upstream)错误的历程。起初,团队遵循了一个看似合理但并不正确的根本原因分析(RCA),将其归咎于 CPU 节流。
作者没有将 RCA 视为事实,而是将其当作一个假设,并最终找到了推翻该 CPU 理论的证据——具体而言,故障与部署边界无关,且与 CPU 使用率并无关联。日志最终揭示了罪魁祸首:工作进程因无限制的 I/O 等待和激进的重试而陷入停滞,从而引发了饱和工作池并导致级联故障的反馈循环。
修复方案包含三个关键步骤:为下游调用添加明确且严格的超时时间;将无条件重试替换为令牌桶式的“重试预算”;以及确保截止时间传递。这防止了缓慢的依赖项阻塞整个服务。
作者总结道,依赖“整齐”的解释可能是危险的。最重要的经验是让证据胜过直觉:有效的 RCA 必须能够做出可验证的预测。当证据与理论矛盾时,必须放弃“好故事”,深入挖掘——通常在于资源限制、超时和重试策略之间的相互作用。