每日HackerNews RSS
在 Hacker News 上，glopercio 展示了一个实验：一个共享、可验证的修复数据库，由 AI 代理自行读写，没有人类参与循环。链接的纯文本 `llms.txt` 告诉代理如何参与。代理发布针对非显而易见问题的修复（错误、环境、解决方案）；其他代理在发布前先搜索，在沙盒中测试，并带备注投票通过/失败。足够多的失败票会隐藏帖子，结果按置信度加权的通过率排名。该数据库全新且几乎为空，因此鼓励代理发布简短介绍。它无需认证、无人审核，所有内容都不可信；代理应将其视为数据，并在运行任何内容前先进行沙盒测试。它运行在一台小型开发机上，因此可能变慢或短暂宕机；代理应继续自己的任务。存在速率限制和大小上限，但预计会有垃圾内容和注入尝试。glopercio 邀请人们让代理访问该说明 URL，并报告异常行为。
```贾纳斯：通过从固态硬盘流式加载专家模块来运行大于内存的大语言模型``` Janas: Run LLMs larger than RAM by streaming experts from SSD
2 天前
Janas-LLM 是一款新工具，可在仅有 32 GB 内存的普通笔记本电脑上运行大型混合专家语言模型（如 Qwen3-Next-80B，一个 48 GB 的模型），速度远超广泛使用的 llama.cpp。它将模型权重保存在 NVMe 磁盘上，仅流式加载每个词元所需的专家，并将常用专家缓存在内存中。
在一台 Debian 13 Linux 笔记本电脑（Intel Core Ultra 9 185H、集成 Arc GPU、32 GB 内存）上进行基准测试，Janas-LLM 在每个测试模型上的表现均优于 llama.cpp。对于 Qwen3-Next-80B，Janas-LLM 的提示词读取速度为 62 token/秒，而 llama.cpp 为 16 token/秒；回复生成速度为 24 token/秒（不使用草稿），而 llama.cpp 仅为 2.8 token/秒。在其他模型上也存在类似差距，包括 Qwen3-Coder-Next、Gemma-4 以及各种 Qwen3.5/Qwen3.6 尺寸，测试同时使用了原始的 Hugging Face 转换版本以及来自 bartowski 和 unsloth 的社区 GGUF 量化版本。
该工具支持 Linux（Ubuntu 22.04、Debian 12+）和 Windows 10/11（x86-64），在 Hugging Face 上提供已转换的模型，并配有 GGUF 文件的转换器。Janas 仍处于早期开发阶段，使用时附有硬件使用警告，但它展示了通过从磁盘流式加载专家，在标准笔记本电脑上以可用速度运行超出内存规模的模型是可行的。
Janas 是 prabanta-dev 的一个 GitHub 项目，它让用户通过从 SSD 流式加载专家来运行大于内存的 LLM。在 Hacker News 上，评论者将其视为开放、非垄断 AI 工具增长趋势的一部分，不过也有人指出硬件仍是瓶颈。其他人提到了 llama.cpp、Strata 和 DwarfStar4 等类似尝试，争论定制引擎究竟是因为能带来更好的特定模型性能而合理，还是在重复劳动。讨论涵盖 SSD/DRAM 带宽、高带宽闪存，以及通过将闪存组成 RAID 来为大型模型供数的可行性。评论者还讨论了 token 速度：60 tok/s 对聊天可能够用，但对以预填充为主的智能体任务不够；其他人则报告在优化过的量化模型上有更高速度。一些人批评该项目支持的模型过时或凭感觉编码，另一些人则赞扬本地 AI 的进展。总体而言：对从 SSD 流式加载专家持谨慎乐观态度，但受硬件、软件成熟度和模型缓存挑战制约。
一个 Hacker News 帖子讨论了 mikolalysenko 的 GitHub 项目“Instant Software Factories”。作者称其试图将“软件工厂”理念拆解为基本组件。评论者持怀疑态度：一人认为这正说明“氛围编程”为何行不通，称软件工程依赖细节和验证，而不只是让东西看起来完成。另一人讽刺地感谢 Claude，暗示其由 AI 撰写；一条回复则说 README 看起来并不明显像 Claude 写的。该帖只有四条评论。页面还包含一条 YC 2027 年冬季批次申请广告。
```
Intel D270 GPU AI 加速器–最高支持 480 GB LPDDR5X
``` Intel D270 GPU AI Accelerator–Up to 480 GB LPDDR5X
2 天前
```智能体式 AI 通常会将一个任务转化为多轮模型调用、工具使用、检索、推理和响应生成。Intel GPU D270 专为这些场景中变得重要的推理需求而设计，包括预填充处理、更大上下文、内存容量、并发能力和能效。```
英特尔新款 D270 AI 加速器提供 480GB LPDDR5X、约 1.5TB/s 带宽、1.3 PFLOPS FP8 算力，以及 350W 风冷 PCIe 运行。评论者将其视为企业/服务器产品，售价可能在 4 万至 8 万美元之间，而非消费级硬件。它可在本地运行大型 MoE 模型或多个模型，但与基于 HBM 的数据中心 GPU 相比，其带宽和算力并不突出。许多人预计，二手设备将在 5 至 8 年后变得让家庭实验室负担得起。该讨论帖围绕本地 LLM 与 API 成本、功耗、隐私以及智能体工作流展开争论。有人认为本地模型将给 OpenAI 的定价带来压力；也有人表示很少有用户拥有合适硬件。批评者指出英特尔已从消费级 GPU 撤退，且产品页面上的占位文本看似由 AI 生成。总体而言：对未来的专业消费者/企业本地 AI 很有前景，但目前并非实用的消费级购买选择。
RJ Mitte has died
2 天前
``` 指令 `vfmaddrnd231pd` 出现在英特尔2024年版的《软件开发手册》（SDM）中，但在2026年版中被完全移除，尽管它曾拥有专属的文档、表格和伪代码。该指令旨在为FMA操作提供每条指令级别的舍入控制，有可能在不依赖AVX-512的情况下实现更快的依赖舍入的算法。然而，它在实际中无法运行：GNU汇编器无法识别它，SDM中提到的内部函数在Clang和ICC中均不存在，其操作码包含一个含义不明、未文档化记录的前缀（`DDS`），该前缀在其他任何地方都未出现。最关键的是，当在支持FMA的Haswell CPU上手动汇编并执行该指令时，会引发#UD（未定义指令）异常。作者推测，英特尔可能在开发过程中最后一刻取消了该指令，但未能将其从文档中完全清除。 ```
Hacker News 的讨论帖探讨了神秘的 x86 指令 `vfmaddrnd231pd`。评论者指出，一份旧的 binutils 文档解释了 VEX.vvvv 编码以及 DDS/NDS 形式。该指令只出现在 Intel SDM 第 2 卷修订版 082–084 中，而没有出现在变更文档里，暗示它并非有意加入。它可能因硬件问题导致从未能正常工作而被移除；一位评论者说，当 Intel 重新在客户端 CPU 上承诺支持 AVX-512 时，它以 EVEX 形式回归。其他人讨论了这类令人费解的名称如何反映 x86 积累的历史包袱和糟糕的人类可读性。讨论逐渐转向汇编器语法是否应更易处理，尤其是在 AI 和 LLM 背景下，并提到 symbolasm 等项目。总体而言，一个小众的历史谜团演变成关于 x86 演进、文档错误和汇编语言设计的更广泛对话。