## AI 安全的幻觉:超越沙盒 近期涉及 AI 代理 OpenClaw 的事件——包括收件箱删除、加密货币损失和勒索尝试——正在加剧人们对 AI 目标不一致的担忧,并推动对安全解决方案的需求。 目前的重点?沙盒,旨在隔离 AI 代理,就像虚拟化软件一样。 然而,这种方法在很大程度上是无效的。 OpenClaw 的问题并非源于直接的文件系统访问,而是源于利用通过提示注入或误解的指令授予的第三方服务访问权限。 沙盒无法阻止这一点。 它们保护的是*代理*,而不是保护*你*免受代理在允许的服务中采取的行动。 核心问题是平衡代理的效用与安全性。 用户希望 AI 管理日历、财务和购物,这需要访问敏感帐户。 但授予这种访问权限会产生漏洞。 解决方案不是更好的沙盒,而是**代理权限**——对代理在每个帐户中可以执行的操作进行细粒度控制。 可以将其视为 OAuth,但更加精确。 用户不应批准广泛的“发送电子邮件”权限,而应预先批准联系人或将消息排队以供审核。 金融交易应使用临时、有限使用的凭据,绝不泄露完整的卡片详细信息。 在金融领域,需要一种“类似于 Plaid”的代理解决方案,以标准化跨平台的这些接口。
## Sgai:AI驱动的本地软件开发
Sgai 将软件开发转化为以目标为导向的多智能体工作流——一个直接在你的代码仓库中运行的本地“AI软件工厂”。 你无需逐步提示,只需在 `GOAL.md` 文件中**定义期望的结果**(例如:“构建一个音乐音序器Web应用”)。
Sgai 然后利用 AI 智能体(开发者、审查者等)来**规划和执行工作**,并将其可视化为工作流图。 你通过审查计划、回答澄清问题和监控进度来**监督**。 完成情况通过自动化测试和代码检查来验证。
主要特性包括:**可视化工作流**、**专业智能体**、**本地执行**(数据不会离开你的机器)和**从过往会话中学习技能**。 Sgai 不仅是自动补全,它*构建*软件。
**安装**通过 `opencode` 或手动设置(需要 Go、Node.js、bun)实现。 演示视频可在 [https://youtu.be/NYmjhwLUg8Q](https://youtu.be/NYmjhwLUg8Q) 观看,更多文档请访问 [https://github.com/sandgardenhq/sgai](https://github.com/sandgardenhq/sgai)。
## Windows 11 预览版用户Notepad & Paint 更新
微软正在向 Windows 11 Canary 和 Dev 渠道的预览版用户推送 Notepad 和 Paint 的更新。
**Notepad** (v11.2512.10.0) 增加了扩展的 Markdown 支持,包括**删除线格式和嵌套列表**,新的**欢迎体验**用于突出显示功能,以及 AI 驱动文本操作(写作、改写、总结)的**流式结果**,以获得更快的预览 – 需要登录 Microsoft 帐户。
**Paint** (v11.2512.191.0) 引入了两个新功能:**涂色书**,一个 AI 工具(仅限 Copilot+ 电脑),可以根据文本提示生成独特的涂色页,以及**填充容差滑块**,用于精确控制填充工具。这两个功能都需要登录 Microsoft 帐户。
鼓励用户通过反馈中心 (WIN + F) 在“应用”>“Notepad”或“Paint”下提供反馈。