[提交于2026年1月8日 (v1)，最后修改于2026年1月14日 (此版本，v2)] 查看论文PDF：大型语言模型推理硬件的挑战与研究方向，作者：马晓宇和David Patterson 查看PDF 摘要：大型语言模型 (LLM) 推理很困难。底层Transformer模型的自回归解码阶段使得LLM推理与训练根本不同。由于最近的人工智能趋势，主要挑战在于内存和互连，而非计算。为了应对这些挑战，我们强调了四个架构研究机会：具有HBM类似带宽的10倍内存容量的高带宽闪存；用于高内存带宽的近内存处理和3D内存-逻辑堆叠；以及用于加速通信的低延迟互连。虽然我们的重点是数据中心人工智能，我们也回顾了它们在移动设备上的适用性。 来自：马晓宇 [查看邮箱] [v1] 2026年1月8日 星期四 15:52:11 UTC (832 KB) [v2] 2026年1月14日 星期三 20:37:46 UTC (983 KB)
每日HackerNews RSS
## LLM 推理硬件：挑战与研究
一篇近期发表的论文（arxiv.org）在Hacker News上引发了关于运行大型语言模型（LLM）硬件挑战的讨论。核心问题是扩展基础设施以满足日益增长的模型需求。
论文中强调的关键改进领域包括：**高速闪存 (HBF)** 以增加内存容量，**近内存处理**和**3D堆叠**以提高带宽，以及**低延迟互连**以加快通信速度。HBF 具有潜在的 PCIe 带宽 50 倍的优势，随着容量承诺达到 512GB、带宽达到 1.638 TBps 的进展，正在获得关注。
评论者们讨论了持久内存的作用，密度是主要优势，而非持久性本身。讨论还涉及“内存计算”方法，即数据移动到模型而不是相反，以及当前 VRAM 容量的限制。像 Cerebras 的数据流处理器等解决方案被提及，以及涉及激光烧蚀基板以实现低功耗 LLM 执行的创新想法。
## vm-curator：一个用于QEMU/KVM虚拟机的Rust TUI vm-curator是一个快速、用户友好的终端界面，用于管理QEMU/KVM虚拟机。它通过直观的TUI简化了虚拟机发现、创建、启动和管理。主要功能包括虚拟机库的自动扫描、分层组织以及一个包含50多个预配置操作系统配置文件的5步向导——包括跨发行版的自动UEFI检测。 值得注意的是，vm-curator支持使用NVIDIA GPU（在RTX-4090和驱动程序590.48.01上测试）的准虚拟化3D加速，但*不是*完全的GPU直通。快照管理、启动脚本编辑器和USB直通也包含在内。 该工具提供Vim风格的导航、搜索和通过`config.toml`文件进行自定义。它期望虚拟机以特定的目录结构（默认情况下为`~/vm-space`）组织，并使用`launch.sh`脚本进行配置。 vm-curator是一个个人项目，专注于精简、透明的体验，优先考虑稳定性和性能，为寻求高性能虚拟机而无需libvirt复杂性的用户提供服务。欢迎贡献，尤其是界面ASCII艺术！
## vm-curator：一款新的基于Rust的虚拟机管理器
一个名为 **vm-curator** 的新的终端用户界面 (TUI) 旨在简化 QEMU/KVM 虚拟机的管理，解决对现有工具（如 virt-manager 和 libvirt）的 frustrations。创建者在与 libvirt 糟糕的 NVIDIA 3D 加速支持、繁琐的 XML 配置和笨拙的 UI 作斗争后，用 Rust 构建了它。
vm-curator 提供了一个简化的虚拟机创建、配置和管理体验，*无需* 依赖 libvirt 或 XML。一个关键特性是使用 `virtio-vga-gl` 通过 NVIDIA 显卡实现可用的 3D 准虚拟化，而 libvirt 中的一个 bug 阻止了这一功能。虽然不适合 Windows 游戏（推荐 GPU 直通），但它在 Linux 客体系统上表现出色。
该项目目前支持超过 100 个操作系统配置文件、UEFI/TPM、QCOWS2 快照和 USB 直通。未来的开发包括用于专用 GPU 访问的 IOMMU 直通。开发者欢迎贡献，特别是 ASCII 艺术，并接受捐赠。
微软2026年1月补丁星期二Windows 11更新问题频发，在一周内需要发布*两次*紧急修复补丁。最初的更新导致关机、休眠和远程桌面连接出现问题，并通过1月17日发布的第一个紧急补丁得到修复。 然而，*那个*修复意外地导致许多用户无法使用Outlook和OneDrive、Dropbox等云存储应用。最新的紧急更新KB5078127专门解决了这个问题，恢复了受影响的应用和将PST文件存储在OneDrive上的Outlook配置的功能。 这些问题源于最初的1月13日安全更新，并凸显了Windows质量控制方面存在重大问题，对微软来说，新年开局不顺利。建议用户安装最新更新以解决这些持续存在的问题。
## 黑客新闻讨论：知识分子的责任 (1967)
最近黑客新闻上围绕诺姆·乔姆斯基1967年的文章《知识分子的责任》展开讨论。核心论点是，知识分子有责任揭露当权者 perpetuating 的谎言。然而，评论者们争论了这个想法在当今复杂的信息环境中是否仍然适用和可行。
许多人同意，清晰和易于理解的沟通至关重要——知识分子应该将复杂的问题翻译给更广泛的受众，对抗阻碍建设性辩论的“意志之战”。人们对学术体系优先考虑专业化而非有效沟通表示担忧。
一个重要的讨论方向探讨了如何接触那些已经不信任专家和媒体的人，尤其是在面对蓄意的虚假信息活动时。一些人认为，仅仅呈现真相是不够的；承认复杂性并避免居高临下非常重要，从而培养一种可以接受无知的文化。
还有人质疑“知识分子”的定义以及普遍责任的概念，认为义务与一个人的社会联系在一起，并且优先考虑内部道德缺陷是关键。讨论还涉及历史背景，例如美国对越南的干预，以及即使在“部落”内部，伦理考量的重要性。
此错误报告详细描述了在OpenEuler 2.0 (LTS-SP2)内核6.6.0-100上，NVIDIA开源GPU内核模块存在的问题。具体来说，在使用570.133.20版本驱动程序和OpenRM在B200 GPU上运行时，`nvidia-smi`在运行约66天12小时后会无限期挂起。 `dmesg`输出显示与`knvlink`未能更新和发现Rx后检测链路掩码（针对对等设备0和1）相关的重复错误。该问题发生在长时间运行后，并且已观察到一次。 报告强调此问题仅针对*开源*内核驱动程序中的错误，并请求确认该问题是否在使用专有驱动程序时发生。报告还确认正在使用稳定、非RC内核。包含一个日志文件（`nvidia-bug-report.log.gz`），但未提供其他信息。
## Nvidia 驱动程序错误导致系统在 66 天后挂起
Nvidia 的 open-gpu-kernel-modules 中的一个错误导致系统在运行约 66 天 12 小时后挂起。该问题影响 B200 GPU 和 NVLink 配置，导致 `nvidia-smi` 和其他任务超时，需要完全重启集群才能解决。
根本原因似乎是计时器中的 32 位整数溢出，具体来说是 750Hz 的“jiffies”计数器。这种溢出会导致不正确的时间戳比较。一个类似的错误影响了 Windows 95/98，由于毫秒计数器溢出，导致系统在 49.7 天后停止运行。
用户报告 Nvidia 内部分配的错误编号与故障前的天数相关。虽然修复正在进行中，但由于重现时间长，故障排除很困难。讨论强调了调试时序相关错误的挑战以及软件开发中仔细处理时间戳的重要性。
亚历克斯·霍诺尔德最近创造历史，成为第一个无绳、无安全网徒手攀登台北101的人。虽然他不是第一个攀登这座摩天大楼的人，但他超越了“法国蜘蛛人”阿兰·罗伯特，后者在2004年台北101开幕时使用安全装备攀登了它。 罗伯特是一位经验丰富的城市攀登者，他对霍诺尔德的壮举发表了评论，并曾就这座建筑的分段结构向他提供建议。罗伯特本人也征服了帝国大厦和哈利法塔等标志性建筑，通常采用徒手攀登的方式，但他因其大胆的攀登而被捕超过120次。 两位攀登者都热爱挑战极限。现年63岁的罗伯特秉持着拥抱风险的哲学，他说：“生活必须充满危险”，并积极寻求“舒适区之外”的体验。他的攀登有时是受邀的活动，但经常涉及为了挑战而无视法律限制。
## Alex Honnold 台北101攀登：摘要
Alex Honnold 最近完成了台北101摩天大楼的自由攀登，没有绳索或安全网。这次攀登引发了关于其中风险以及Honnold独特心态的讨论。
评论员指出Honnold进行了广泛的准备和计算，与鲁莽行为形成对比。一些人指出研究表明他可能具有减弱的恐惧反应，而另一些人认为他的技能和练习可以最大程度地降低危险。一个关键点是，虽然从统计上讲有风险，但这次攀登本身可能比日常活动（如驾驶）更不危险。
该事件还凸显了这次攀登与他更具技术挑战性的酋长岩自由攀登之间的差异。许多人认为Netflix直播报道不足，而另一些人则庆祝这场壮观景象以及它为台湾带来的关注。争论的中心在于，这种壮举是自私的还是对人类潜力的证明，许多人承认Honnold的奉献精神以及他从挑战极限中获得的刺激。
客户端挑战：您的浏览器已禁用 JavaScript。请启用 JavaScript 以继续。网站的必要部分无法加载。这可能是由于浏览器扩展、网络问题或浏览器设置造成的。请检查您的连接，禁用任何广告拦截器，或尝试使用不同的浏览器。
Hacker News新版 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交登录[重复]
petethomas 1天前 | 隐藏 | 过去 | 收藏
gnabgib 1天前 [–]
之前(473点, 10小时前, 565评论) https://news.ycombinator.com/item?id=46745047
(174点, 8小时前) https://news.ycombinator.com/item?id=46745944
(82点, 7小时前, 22评论) https://news.ycombinator.com/item?id=46746673
你的帖子 9分钟前: https://news.ycombinator.com/item?id=46750138
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索:
L10N::CY - Raku 的威尔士语本地化
$ draig -e 'dywedyd "Helo Byd"' Helo Byd # 必须设置 RAKUDO_RAKUAST=1 环境变量
use L10N::NL; dywedyd "Helo Byd"
L10N::CY 分发包含提供 Raku 编程语言威尔士语本地化的逻辑。它安装了一个 draig 可执行文件，该文件将自动激活威尔士语本地化。并且允许在选定的程序中使用 use L10N::CY 语句来使用威尔士语本地化。
创建一种新的编程语言 - Draig
Richard Hainsworth [email protected]
版权 2024, 2025 Raku 本地化团队
此库是自由软件；您可以根据 Artistic License 2.0 重新分发和/或修改它。
## Draig：一种威尔士编程语言 - 黑客新闻摘要
一种名为Draig的新编程语言，专为威尔士语使用者设计，最近在黑客新闻上进行了讨论。该语言旨在通过允许程序员使用他们的母语，特别是威尔士语，来进行关键词和标识符的编写，从而使编码更易于访问。
讨论扩展到编程语言本地化的更广泛话题。用户提到了Hedy，另一种专注于教育目的的本地化语言，并辩论了用非英语语言进行编码的实用性。人们对错误信息和库的可用性以及IDE兼容性表示担忧。
一些评论员分享了团队用非英语语言进行编码的经验，尤其是在英语水平有限的地区。本地化字符串的使用以及LLM辅助翻译的潜力也被探讨，同时强调了在代码中保持确定性行为的重要性。最终，这场对话突出了将编程语言可访问性扩展到英语之外的挑战和潜在好处。
## Tiny Tapeout实验航天器：AI加速器与JTAG调试
该项目旨在在短短两周内，使用GlobalFoundries 180nm技术通过Tiny Tapeout实验航天器，设计一个小型的2x2矩阵-矩阵乘法柱状阵列（AI加速器的核心组件）*和*强大的片上调试基础设施——JTAG TAP。该项目最初主要是一个调试基础设施练习，柱状阵列被添加为被测设计。
利用现有的流程（Tiny Tapeout/Librelane/OpenROAD）和个人自动化脚本对于满足截止日期至关重要。该设计优先考虑柱状阵列中的计算-内存比效率，并包含定制的Booth Radix-4乘法器。一个关键特性是用于探测内部寄存器的定制JTAG指令（USER_REG），并通过OpenOCD进行仿真验证。
尽管存在限制——引脚数量、时钟频率和缺乏SRAM——该设计已成功完成并提交制造。作者强调了迭代设计的重要性以及开源工具在实现快速原型设计方面的力量。该项目是迈向独立ASIC设计最终目标的一步，通过参与Tiny Tapeout等项目来积累技能和经验。芯片目前正在制造中，如果成功，将可供购买。
## Tiny Tapeout 与 Web 开发之外的世界 (Hacker News 摘要)
最近 Hacker News 的讨论源于一篇博客文章，详细介绍了使用 GlobalFoundries 的 180nm 工艺进行芯片封版，该工艺通过共享班次计划免费提供。 这篇文章引发了关于技术世界广阔性以及较旧制造节点令人惊讶的相关性的讨论，超越了 Web 开发。
许多评论者，经验丰富的硬件工程师，分享了他们多元化的背景故事——涵盖了集成电路设计、FPGA 加速、嵌入式固件，甚至编译器调试。 一个关键的收获是，180nm 对于许多应用仍然具有经济可行性，特别是那些不需要最先进性能的应用，并且代表了集成电路市场的重要组成部分。
讨论还涉及硬件设计的挑战，包括漫长的开发周期、昂贵的工具以及制造后对金属层 ECO（修复）的需求。 对开源硬件工具和制造的兴趣，例如 Transparent Reference Fab 倡议和 OpenTitan 等项目，也十分突出，特别是在创建可信和可检查硬件的背景下。 许多用户强调了 Tiny Tapeout ([https://tinytapeout.com/](https://tinytapeout.com/)) 等资源，作为进入芯片设计的可访问入口点。
启用 JavaScript 和 Cookie 以继续。