本文详细介绍了一种用于 BitNet b1.58 等模型中三进制权重(trits)的高效打包方法。为优化存储与性能,作者采用了一种块大小设置,即将 5 个三进制位打包进 8 个比特中,实现了 99.06% 的信息密度效率。 在大型语言模型推理中,解包这些权重的关键难点在于,模运算和除法运算在 SIMD(单指令多数据流)环境中通常执行缓慢或不受支持。为解决这一问题,作者采用了一种定点乘法技术:通过将字节乘以特定常数,无需使用昂贵的除法即可从结果位中提取三进制位。 该方法确保了数据的无损恢复,并显著加快了并行解包的速度。目前,该技术已在 `llama.cpp` 中针对 AVX2 和 ARM NEON 架构完成实现,为处理三进制权重模型提供了高性能解决方案。
请启用 JavaScript 和 Cookie 以继续。
在 2026 年的 TacoSprint 活动中,作者提议通过在 `PT_INTERP` 段中增加对 `$ORIGIN` 的内核级支持,以实现 Nix 中的可重定位二进制文件。作者本预想会遭到反对,结果却与 Linux VFS 维护者 Christian Brauner 进行了富有成效的合作。 他们没有采用简单的补丁,而是利用 eBPF 和 `binfmt_misc` 开发了一套解决方案。通过将解释器选择卸载到可编程的 eBPF 内核模块,系统能够动态解析路径,从而有效地支持可重定位二进制文件。 一项关键的突破是增加了新的 `binfmt_misc` 分发模式(“L 标志”),该模式允许内核在原生执行二进制文件的同时简单地覆盖解释器。这避免了通常困扰解释器切换的标识问题,例如 `argv[0]` 或 `/proc/self/exe` 解析错误。 展望未来,作者计划引入一个利用自定义 `PT_INTERP_NIX` 段的 NixOS 模块。这种方法确保了向后兼容性,仅允许选择加入的二进制文件获得可重定位能力。这一进展显著推动了 Nix 生态系统的边界,使其向真正可移植、与环境无关的二进制文件迈进了一步。
**Mathup** 是一款轻量且直观的工具,旨在将类 AsciiMath 的简单语法转换为结构化的 MathML。与 MathJax 等进行繁重渲染的方案不同,Mathup 专注于解析与转换,将渲染工作交给浏览器,从而实现显著提升的性能。 Mathup 专为追求速度且不愿使用冗长 TeX 语法的作者设计,其逻辑清晰的语法可处理标准数学表达式,包括: * **标记识别:** 自动将标识符、运算符和数字包裹在相应的 MathML 标签中。 * **复杂格式:** 支持使用简洁明了的语法编写分数、上下标、矩阵、张量和根式。 * **自定义:** 允许通过 CSS 自定义属性对字体、颜色和样式进行精细控制。 Mathup 具有高度的灵活性,支持命令行使用、Node.js 以及直接集成到浏览器中。对于希望在网页上快速编写数学内容且不愿受繁杂软件困扰的用户来说,这是一个理想的解决方案。尽管它不支持所有的 MathML 特性,但为编写常用数学表达式提供了一种高效且富有表现力的方式。
Qbix Server 是一款高性能的纯 PHP 网络服务器,旨在替代传统的 Nginx/PHP-FPM 架构。它能够在单一进程中处理静态文件、PHP 脚本和 WebSocket,且无需外部依赖。 **主要优势:** * **10 倍并发能力:** 通过“预加载后分叉”(fork-after-preload)架构,Qbix 利用了操作系统层级的写时复制(copy-on-write)内存共享机制。相比 PHP-FPM 为每个工作进程复制整个框架(每个占用 30-60MB),Qbix 共享基础内存,将每个工作进程的开销降低至约 5MB。 * **零引导延迟:** 框架类、配置和数据库连接在父进程中仅加载一次。工作进程继承此状态,消除了 PHP-FPM 每个请求中 10-50 毫秒的引导成本。 * **真正的“无共享”安全性:** 与可能导致请求间“状态泄露”的 Swoole 或 FrankenPHP 不同,Qbix 为每个请求分叉出一个全新的进程。这确保了完全的隔离性,在保持 PHP 完全兼容性的同时,防止了内存泄漏和安全漏洞。 * **高级功能:** 内置组件级缓存失效机制(`X-Cache-Tree`)、访问控制的静态文件流式传输(`X-Accel-Redirect`)以及一个轻量级的微框架。 Qbix Server 是寻求最大化扩展性与部署简便性,且不愿牺牲现有 PHP 代码或安全性的开发者的理想选择。
尽管“超市旅游”如今已成为一个流行标签,但作家妮可·詹姆斯(Nicole James)早已深谙探索外国超市之道。作为曾经的超市收银员,詹姆斯将超市视为“带着购物篮的人类学”——一种避开旅游景点刻意营造的门面,从而发现某种文化最原始、最真实一面的方式。 博物馆和餐馆往往展示着一个国家希望被铭记的内容,而超市则揭示了一个群体私密的日常生活真相:当他们感到疲惫时吃什么,他们的经济现状,以及他们独特的区域焦虑。从日本制作精良的三明治和稀奇古怪的奇巧(KitKat)口味,到荷兰人对甘草糖的痴迷,再到越南令人震惊的蛇酒,这些货架为人们提供了一窥当地生活方式的真实视角。 与奢侈品购物不同,超市旅游具有大众化和真实性的特点。它让游客能将目的地的一件有形且往往令人费解的东西带回家——一罐芥末或一种奇特的零食,作为“未经修饰的日常”的纪念品。归根结底,詹姆斯认为超市旅游就是一种专注观察的艺术,证明了一个国家的真实品格往往隐藏在饼干和清洁用品之间。