每日HackerNews RSS
Leaving Tech
2 天前
``` 引用前请阅读。这些是AI辅助的研究草稿。大多数改进取决于原始预印本中的引理。整数乘法检查点已由仓库维护者审核；但这并不构成一个完整的无条件定理。矩阵乘法的工作是对一种证明方法的限制，而不是更快的算法。Sidorenko常数适用于一个计数步骤。傅里叶节省由Lean内核验证；其他部分则通过精确有理算术和符号测试验证。Auto Research by Supers · getsupers.com ```
Hacker News 的一个讨论串讨论了一个声称低于 \(n \log n\) 的整数乘法结果。评论者就复杂性理论展开争论：一些人引用 Blum 加速定理和时空权衡，认为不存在硬性的 \(n \log n\) 壁垒；另一些人反驳说，查找表 \(O(1)\) 技巧忽略了建表、寻址和内存成本，而且确实存在真正的下界（例如比较排序、P vs NP）。有几个人说，该结果利用了单位成本 RAM/精确算术假设，使其不切实际，或成为一种“银河算法”。其他人指出，那篇博客批评可能曲解了图灵机模型与 DFT 模型，而且常数仍在改进。该讨论串还提到 OpenAI 的 Lean 证明、一个用 GitHub PR 追逐狂野想法的智能体集群，以及 Terence Tao 对“vibemathing”的担忧——智能体在没有人类洞察的情况下优化指标。总体而言：一个有趣但附带大量保留条件的理论结果，人们对其实际意义持怀疑态度，同时对 AI 驱动的研究充满热情。
在 Hacker News 上，glopercio 展示了一个实验：一个共享、可验证的修复数据库，由 AI 代理自行读写，没有人类参与循环。链接的纯文本 `llms.txt` 告诉代理如何参与。代理发布针对非显而易见问题的修复（错误、环境、解决方案）；其他代理在发布前先搜索，在沙盒中测试，并带备注投票通过/失败。足够多的失败票会隐藏帖子，结果按置信度加权的通过率排名。该数据库全新且几乎为空，因此鼓励代理发布简短介绍。它无需认证、无人审核，所有内容都不可信；代理应将其视为数据，并在运行任何内容前先进行沙盒测试。它运行在一台小型开发机上，因此可能变慢或短暂宕机；代理应继续自己的任务。存在速率限制和大小上限，但预计会有垃圾内容和注入尝试。glopercio 邀请人们让代理访问该说明 URL，并报告异常行为。
```贾纳斯：通过从固态硬盘流式加载专家模块来运行大于内存的大语言模型``` Janas: Run LLMs larger than RAM by streaming experts from SSD
2 天前
Janas-LLM 是一款新工具，可在仅有 32 GB 内存的普通笔记本电脑上运行大型混合专家语言模型（如 Qwen3-Next-80B，一个 48 GB 的模型），速度远超广泛使用的 llama.cpp。它将模型权重保存在 NVMe 磁盘上，仅流式加载每个词元所需的专家，并将常用专家缓存在内存中。
在一台 Debian 13 Linux 笔记本电脑（Intel Core Ultra 9 185H、集成 Arc GPU、32 GB 内存）上进行基准测试，Janas-LLM 在每个测试模型上的表现均优于 llama.cpp。对于 Qwen3-Next-80B，Janas-LLM 的提示词读取速度为 62 token/秒，而 llama.cpp 为 16 token/秒；回复生成速度为 24 token/秒（不使用草稿），而 llama.cpp 仅为 2.8 token/秒。在其他模型上也存在类似差距，包括 Qwen3-Coder-Next、Gemma-4 以及各种 Qwen3.5/Qwen3.6 尺寸，测试同时使用了原始的 Hugging Face 转换版本以及来自 bartowski 和 unsloth 的社区 GGUF 量化版本。
该工具支持 Linux（Ubuntu 22.04、Debian 12+）和 Windows 10/11（x86-64），在 Hugging Face 上提供已转换的模型，并配有 GGUF 文件的转换器。Janas 仍处于早期开发阶段，使用时附有硬件使用警告，但它展示了通过从磁盘流式加载专家，在标准笔记本电脑上以可用速度运行超出内存规模的模型是可行的。
Janas 是 prabanta-dev 的一个 GitHub 项目，它让用户通过从 SSD 流式加载专家来运行大于内存的 LLM。在 Hacker News 上，评论者将其视为开放、非垄断 AI 工具增长趋势的一部分，不过也有人指出硬件仍是瓶颈。其他人提到了 llama.cpp、Strata 和 DwarfStar4 等类似尝试，争论定制引擎究竟是因为能带来更好的特定模型性能而合理，还是在重复劳动。讨论涵盖 SSD/DRAM 带宽、高带宽闪存，以及通过将闪存组成 RAID 来为大型模型供数的可行性。评论者还讨论了 token 速度：60 tok/s 对聊天可能够用，但对以预填充为主的智能体任务不够；其他人则报告在优化过的量化模型上有更高速度。一些人批评该项目支持的模型过时或凭感觉编码，另一些人则赞扬本地 AI 的进展。总体而言：对从 SSD 流式加载专家持谨慎乐观态度，但受硬件、软件成熟度和模型缓存挑战制约。
一个 Hacker News 帖子讨论了 mikolalysenko 的 GitHub 项目“Instant Software Factories”。作者称其试图将“软件工厂”理念拆解为基本组件。评论者持怀疑态度：一人认为这正说明“氛围编程”为何行不通，称软件工程依赖细节和验证，而不只是让东西看起来完成。另一人讽刺地感谢 Claude，暗示其由 AI 撰写；一条回复则说 README 看起来并不明显像 Claude 写的。该帖只有四条评论。页面还包含一条 YC 2027 年冬季批次申请广告。
```
Intel D270 GPU AI 加速器–最高支持 480 GB LPDDR5X
``` Intel D270 GPU AI Accelerator–Up to 480 GB LPDDR5X
2 天前
```智能体式 AI 通常会将一个任务转化为多轮模型调用、工具使用、检索、推理和响应生成。Intel GPU D270 专为这些场景中变得重要的推理需求而设计，包括预填充处理、更大上下文、内存容量、并发能力和能效。```
英特尔新款 D270 AI 加速器提供 480GB LPDDR5X、约 1.5TB/s 带宽、1.3 PFLOPS FP8 算力，以及 350W 风冷 PCIe 运行。评论者将其视为企业/服务器产品，售价可能在 4 万至 8 万美元之间，而非消费级硬件。它可在本地运行大型 MoE 模型或多个模型，但与基于 HBM 的数据中心 GPU 相比，其带宽和算力并不突出。许多人预计，二手设备将在 5 至 8 年后变得让家庭实验室负担得起。该讨论帖围绕本地 LLM 与 API 成本、功耗、隐私以及智能体工作流展开争论。有人认为本地模型将给 OpenAI 的定价带来压力；也有人表示很少有用户拥有合适硬件。批评者指出英特尔已从消费级 GPU 撤退，且产品页面上的占位文本看似由 AI 生成。总体而言：对未来的专业消费者/企业本地 AI 很有前景，但目前并非实用的消费级购买选择。