“Book Corners”是一个旨在绘制公共书架地图的项目。该项目的开发者最初计划允许用户将新的书架位置上传并贡献给 OpenStreetMap (OSM)。虽然从技术实现上看这似乎很简单,但开发者发现,向 OSM 贡献数据涉及许多非技术层面的障碍。 OSM 为数据导入和自动编辑制定了严格的准则,以防止地图数据损坏并确保数据质量。要达到这些标准,需要创建专门的导入账户、发布正式文档、处理复杂的许可问题,并进行广泛的社区磋商。这不仅是一次性的工作,更是一项长期的运营责任。 最终,开发者认为,对于一个小规模项目而言,沉重的维护负担和长期的投入并不划算。将精力投入到这一集成功能中,会分散对改善核心用户体验(如无障碍功能和发现工具)的注意力。因此,开发者决定无限期搁置 OSM 回写功能,并强调“有时候,最好的功能就是没有功能”。虽然数据贡献非常有价值,但该项目目前缺乏足够的资源,无法满足负责任地进行集成所需的社会和组织契约。
本项目探索了现代机器学习的极限,通过在 80 年代的 BBC Micro(搭载 8 位 MOS 6502 处理器)上运行自回归语言模型来验证其可能性。
主要的工程限制包括 32KB 的内存限制以及处理器缺乏原生乘法指令。为克服这些障碍,作者采取了以下方案:
* **使用 BitNet:** 采用一种量化方法,将权重存储在 $\{-1, 0, 1\}$ 的三进制集合中。这使得原本高昂的乘法运算被简单的加减法取代,并实现了每字节存储四个参数。
* **选择 Mamba (SSM):** 与因 KV 缓存内存占用不断增长而受限的 Transformer 不同,Mamba 的递归架构保持了固定的状态大小,使其成为内存受限硬件的理想选择。
* **定制化推理:** 使用通过 CC65 编译的 C 语言引擎,并为激活函数采用了学习到的缩放偏移量,以及为采样采用了预计算查找表,因为 6502 无法计算指数运算。
最终,一个功能完备的微型 Mamba 模型得以诞生,展示了“机器共情”(mechanical sympathy)——即神经网络架构设计必须与底层硬件限制相匹配的必要性。你可以在基于 Web 的 BBC Micro 模拟器中直接运行该模型,体验在 1975 年代的硬件上生成文本的过程。
MicroCodex 是一款基于 C++23 构建的超轻量级编码代理,专为在终端本地运行而设计。它功能丰富,包括交互式终端界面、一次性提示(one-shot prompting)、持久化对话历史记录以及自动上下文压缩。
用户可通过简单的 curl 脚本在 macOS 和 Linux 上安装该工具,或从 GitHub 下载预编译的二进制文件。身份验证通过 OAuth 处理,允许用户直接通过 CLI 使用现有的 ChatGPT 方案。
MicroCodex 支持自定义文件系统“技能”以扩展其功能,并通过词法黑名单针对破坏性命令提供了基本的防护措施。但它并非沙箱环境;由于该工具的操作权限与底层进程相同,用户在使用时仍需谨慎。尽管目前暂不支持 MCP 和文本复制功能,但该项目已在 Apache-2.0 许可证下开源。它旨在为那些偏好高性能、终端原生环境来管理编码任务的开发者提供支持。