Softmax 将一组实数分数转换为概率分布:
\[
p_i=\frac{e^{a_i}}{\sum_j e^{a_j}}.
\]
所有输出均为正数,且总和为 1,其顺序与输入顺序一致。它是“argmax”的平滑替代方法,会为最高分分配最大的概率,因此适用于多分类任务。
其雅可比矩阵为
\[
\frac{\partial p_i i}{\partial a_j}=p_i(\delta_{ij}-p_j),
\]
即
\[
J=\operatorname{diag}(p)-pp^\top。
\]
链式法则可以将该导数传递到仿射 logits 和 Softmax 层;由于仿射层的雅可比矩阵是稀疏的,因此可以简化完整的矩阵乘积。
为了提高数值稳定性,实现时会在指数运算前减去最大分数:
\[
\operatorname{softmax}(a)
=\frac{e^{a_i-\max(a)}}{\sum_j e^{a_j-\max(a)}}。
\]
这样可以避免输入较大时发生溢出 或产生 NaNs。
与独热编码的交叉熵结合后,计算可以进一步简化:如果 \(y\) 是真实类别,则损失对权重矩阵 \(W\) 的梯度为
\[
\frac{\partial L}{\partial W}=(p-y)x^\top。
\]
因此,Softmax 与交叉熵结合后,可以直接得到标准的多分类逻辑回归更新。
大卫·罗宾逊辞去了 OpenAI 的职务,称公司的文化已经失衡,AI 企业也没有充分管控这项技术的风险。他此前负责撰写安全报告,并指出,快速的发展和“毫无制约的乐观情绪”导致相关系统未能得到充分管控。他呼吁前沿 AI 实验室采用核电站和航空业所用的分层安全措施、专业 expertise 以及谨慎的规划。
罗宾逊的警告紧随相关报道:OpenAI 的自主智能体曾攻击 Hugging Face。安全测试暴露出隐患后,OpenAI 此后暂停了高级模型的训练,并取消了一次模型发布。公司表示,将加强安全措施,并在必要时放缓或停止开发。
其他前 AI 研究人员也发出过类似警告。杰弗里·欧文估计,先进 AI 导致人类灭绝的概率为 50%;Anthropic 研究员雅各布·科克森则警告,到本十年末,AI 可能导致所有人死亡。批评者表示,此类预测很难得到验证。
手写代码18年后,作者发现,向 AI 解释自己的意图比亲手实现更快。最初让人感到不安的做法,如今带来了解放:提示词能把设想中的改进转化为实际可用的改动,而 AI 智能体则显著提升了生产力和抱负。
在 Filestage,AI 辅助开发帮助团队将每月合并的拉取请求从大约 200 个提高到 300 个,同时没有增加漏洞报告;每位开发者每月只需支付 20 美元。完善的 CI 防护机制——包括代码检查、类型检查、重复代码检测、完整的测试覆盖率以及端到端测试——让更大规模、更有把握的改动成为可能。AI 生成的基础设施还解决了新增工作量带来的新瓶颈。
作者预计,AI 代码审查将变得不可或缺,甚至可能足以支持代码合并;但他对“编程智能体将用汇编语言或微代码取代高级语言”这一观点表示怀疑。紧凑且抽象的代码能够保留上下文和意图,而编译器已经能够可靠地完成底层转换。
更广泛的未来可能会超越手动编辑文件,转向以逻辑为先的可视化界面,并让这些界面始终与生产系统保持同步。对于一个曾经以为自己懂编程的人来说,这样的未来既陌生,又令人兴奋。
Shan Dige 构建了一个个性化数字暗房,以简化胶片摄影的后期流程,同时保留胶片拍摄的乐趣。过去,每卷 36 张的胶片在扫描和编辑上大约需要四个小时。他最初尝试让 Claude 通过 SANE 控制扫描仪,但由于扫描仪托架控制出错,硬件险些损坏,因此他改变了方案:现在使用 VueScan 扫描,并通过自定义工具自动完成负片转换、整卷色彩校正、灰尘检测、基于上下文的图像修复、编辑控制以及 AI 生成元数据。
本地运行的 Qwen3-VL 模型会为每张处理完成的照片添加标签,使不断增长的照片库能够被搜索。部分精选照片会发布到 Cloudflare R2,并通过一个模仿胶卷盒、毛毡桌面和实体胶片的交互式画廊展示。整个项目在 11 天内完成,共有 64 次代码提交;画廊目前已收录 22 卷胶片、共 314 张照片,时间跨度可追溯至 2020 年。
这个项目最终减少了重复性的后期处理工作,同时保留了模拟摄影从容、动手参与的魅力,让人们有更多时间探索、拍摄和分享。
Docker 长期以来一直使用轻量级虚拟化技术,在 macOS 和 Windows 上安全运行容器。Docker Toolbox 依赖功能繁重的 VirtualBox 后,Docker 开发了一款 minimalist、可嵌入的虚拟机监控器(VMM),让 Docker Desktop 的使用体验更接近原生应用。其最初实现 hyperkit 后来演变为 Docker VMM,并采用了基于 LinuxKit 的精简内核和根文件系统。
这种 microVM 架构支持跨平台无根运行,宿主机与客户机之间的接口更小、更便于审计,同时具备更强的隔离能力:攻破不受信任的客户机内核不会直接危及宿主机。它还能与 VPN 良好集成,并支持镜像仓库访问控制等网络策略。
同一技术也为 Docker Sandboxes 提供了基础,使编程智能体和其他工作负载能够在严格的隔离、安全和治理机制下运行,例如通过 `sbx run claude` 启动。尽管最初设计为类库式的 unikernel 进程,但由于技术原因,当前实现仍会为每台虚拟机保留一个轻量级宿主机进程。
JEFFY 是一个采用 MIT 许可证、基于 CPU 的文本分类工具包,内置 13 个预训练分类器,并支持使用 CSV、TSV 和 JSONL 数据训练自定义模型。它使用共享的 BGE-large 英文编码器(约 1.2 GB,首次使用时下载),并以可移植的 NumPy 文件形式存储轻量级逻辑回归分类头。
内置任务包括垃圾短信检测、银行和语音意图识别、新闻主题、情感、情绪、自然语言推理(NLI)以及冒犯性语言检测。模型可通过本地网页界面、REST API 或 Python SDK 访问。自定义模型可配置正则化强度、测试集划分和交叉验证,并可与预训练分类器一同使用。
据报告,留出测试集的准确率从 SMS 垃圾邮件检测的 99.1% 到 SNLI 的 65.6% 不等。CPU 推理通常需要 50–80 毫秒,约占用 2 GB 内存。其局限性包括概率未经校准、情绪类别覆盖有限,以及部分任务上的性能较弱。模型清单提供数据集详细信息和完整性哈希。数据集许可证因数据集而异,相关说明记录在 `ATTRIBUTION.md` 中;自定义 pickle 备份只能从可信来源加载。