请启用 JavaScript 和 cookie 以继续
每日HackerNews RSS
对不起。
大语言模型的工作原理 How LLMs work
28 天前
现代大语言模型（LLM）共享一种通用的“Transformer”架构，这是一种现已成为人工智能领域标准的通用设计。以下流程概述了使这些模型能够处理文本的核心机制：
* **分词（Tokenization）：** 将文本转换为代表子词单元的整数 ID。
* **嵌入（Embeddings）：** 将这些 ID 映射为多维向量，使语义相关的词在空间位置上更为接近。
* **位置编码（RoPE）：** 注入有关词序的信息，使模型能够理解上下文和序列。
* **注意力机制（Attention Mechanisms）：** 使标记（Token）能够“关注”提示词中其他相关的部分。**多头注意力（Multi-head attention）**同时追踪多种关系（如语法、代词），而**分组查询注意力（Grouped-Query Attention）**则用于优化内存。
* **前馈网络（FFN）：** 对每个标记进行独立处理；在大型模型中，这些通常会被**混合专家模型（MoE）**取代，以提升扩展效率。
* **残差流与归一化（Residual Streams & Normalization）：** 确保深层网络保持稳定且可训练。
模型以**下一词预测（next-token prediction）**循环的方式运行，根据概率迭代生成文本。尽管私有模型在训练数据、规模和训练后微调方面有所不同，但它们在这一统一的结构蓝图上基本趋同。理解这些基础组件，有助于解读现代研究及模型文档。
此次讨论围绕大语言模型（LLM）的运作机制及其影响展开。参与者们探讨了 Transformer 架构究竟是“极其简单”，还是我们无法真正理解的“黑箱”。
该讨论的核心要点包括：
* **架构简单性与规模化：** 许多观点认为，其核心架构（自回归解码器）非常直观，现代前沿能力在很大程度上是极端规模化（计算量和数据量）的“涌现”结果，而非源于持续的根本性突破。
* **“苦涩的教训”（The Bitter Lesson）：** 参与者引用了理查德·萨顿（Richard Sutton）的“苦涩的教训”，指出从长远来看，随算力增长的方法总是优于人工设计的启发式算法。
* **智能与概率：** 一个反复出现的争议点在于，大语言模型究竟只是“高级自动补全工具”，还是具备真正的推理能力。批评者认为它们纯粹是统计学意义上的“随机鹦鹉”；而支持者则反驳称，“预测下一个词”是一种还原论观点，忽略了复杂系统如何通过规模化发展出认知属性。
* **实践学习：** 对于想要深入理解大语言模型的人，共识是应超越被动阅读。专家建议从零开始构建模型、绘制模块图，或研读以实现为重点的教程书籍，从而弥合“理解数学”与“理解系统”之间的差距。
Nordstjernen 1.0.0 发布了！Nordstjernen 是一款使用 C 语言从零编写的网页浏览器，专注于支持 HTML 和 CSS 标准。它支持 Windows、Mac 和 Linux 系统，Android 版本正在开发中。许可证：Nordstjernen 源代码许可证 v1.0 — 可自由使用、修改和重新分发，但不得用于开发竞争性浏览器；每个版本在十年后将转为 MIT 许可证。详见 License.md。商业许可证可另行商议。
Hacker News 社区正在讨论一款名为 **Nordstjernen** 的新型网页浏览器引擎，该引擎声称由 88,000 行“纯手工编写”的 C 代码组成。然而社区质疑声不断，用户指出该项目的提交记录完全由 Claude 生成，这与“手工编写”的宣传背道而驰。
针对该项目的批评主要集中在以下三个方面：
1. **安全性**：批评者认为，在 2026 年使用 C 这种内存不安全的语言构建浏览器存在重大安全风险，这与 Ladybird 等优先考虑内存安全性的项目形成了鲜明对比。
2. **质量与现状**：用户对“1.0.0”这一版本号并不买账，指出该项目缺乏文档、没有测试套件，且标准合规性有限。
3. **许可与所有权**：该项目采用了具有限制性的专有风格许可。讨论中还涉及了就 AI 生成代码主张版权所带来的法律模糊性。
开发者为该项目进行了辩护，声称采用专有模式可以避免 Chrome 等浏览器常见的重度监控变现方式，并赞扬了 C 语言的移植性和透明度。尽管存在争议，但一些观察人士对这种从零开始构建浏览器以挑战当前网络标准的趋势表示了兴趣。
🛡️ 请稍候 我们正在检查您的网络连接，以防止自动化滥用行为 为什么会出现此页面？ 遇到问题？请联系客服
考古学家在考察欧洲最大的铜石并现时代墓葬时，发现了儿童患有肺结核及其他呼吸系统疾病的骨骼证据。虽然最初的报告暗示这些疾病可能曾重创该人群，但 Hacker News 上的科学讨论提供了更为细致的观点。
评论者指出，这些数据仅反映了死者的状况，而非更广泛在世人群的健康水平。此外，专家们指出这些发现并不令人完全意外：当时室内普遍使用敞开式火堆进行烹饪和取暖，很可能导致了慢性呼吸道炎症。这种长期接触烟雾的环境会削弱免疫系统，使儿童更容易受到呼吸道感染。归根结底，这些发现凸显了古代社会中家庭居住条件与健康结果之间复杂的相互影响。
该交互式可视化工具追踪了 2001 年至 2021 年间 ABC Classic FM “古典 100”活动中音乐作品的排名情况。该工具由居住在霍巴特的开发者 Alex 创建，采用点线格式展示了二十年来听众喜爱的古典音乐作品在受欢迎程度上的变化。 用户可以通过点击单个数据点来查看具体详情，同时还能高亮显示同一作曲家的其他作品。可视化呈现出的一个显著趋势是拉尔夫·沃恩·威廉姆斯的《云雀高飞》（The Lark Ascending）受欢迎程度的波动：它从 2001 年的第 2 名跌至 2010 年的较低排名，随后又在 2021 年攀升至榜首。Alex 欢迎对该项目提供反馈，并提到尽管维瓦尔第的《福利亚舞曲》（La Follia）未包含在数据集中，但他个人非常喜爱这部作品。
一位 Hacker News 用户分享了一个自定义数据可视化项目，展示了澳大利亚广播公司 ABC Classic FM 年度热门古典音乐排行榜“ABC Classic 100”的排名情况。
该项目旨在呈现特定音乐作品在历年榜单中的升降趋势，并使用了自定义 SVG 路径和贝塞尔曲线。开发者“gotski”与社区就无障碍访问、潜在更新及项目技术实现等方面进行了交流。
讨论还涉及了对“古典”音乐定义的探讨，评论者们就电影配乐和电子游戏音乐是否应被纳入榜单展开了争论，这也是此类公共投票榜单中的常见议题。用户提出了建设性的建议，例如添加 YouTube 或 Spotify 播放列表链接，以及将文本元素设为可选中以改善导航体验。开发者表示有兴趣进一步优化代码、探索新的设计功能，并在未来更新中纳入新的榜单数据。总而言之，该工具为听众提供了一种引人入胜的互动方式，以探索澳大利亚古典音乐受众品味的变化。
作者是一位热衷于收藏打折、故障摄影器材的爱好者，他成功修复了一枚故障的适马 45mm f/2.8 镜头。购入该镜头时，他发现其外观完好，但电路完全不工作——镜头虽能安装到相机上，却无法进行通讯或响应控制。
作者利用基础工具和系统化的诊断方法，拆解了镜头以接触内部控制电路板（PCB）。通过导通性测试，发现一个小型的贴片保险丝出现断路。在确认该元件为 2A、32V 的贴片式快熔保险丝后，作者将其更换，成功恢复了镜头的全部功能。
本文详细分析了内部电路板的各个组件，包括微控制器、直流降压转换器和电机驱动器。文中还提供了关于现代镜头电子设备故障排除的专业建议，例如如何使用万用表追踪电源轨、解读电路板布局，以及理解去耦电容和过孔的作用。此次维修耗时不到一小时，将一件从拍卖中获得的“坏掉”器材变成了完全可用的设备。作者最后总结道，这类微小元件的故障是导致镜头故障常见却常被忽视的原因。
这篇 Hacker News 帖子探讨了对现代相机镜头的详细拆解，引发了关于硬件可维修性、工程设计以及光学设备演变的广泛讨论。
主要内容如下：
* **维修技巧：** 参与者分享了复杂拆解的专业建议，例如使用双面胶或钟表匠腻子来整理微小螺丝，以及必须使用 JIS（日本工业标准）螺丝刀以避免螺丝滑丝。
* **现代镜头：** 现代无反相机镜头日益精密，集成了微控制器、马达和用于固件更新的 USB-C 接口。尽管一些用户质疑镜头级固件的必要性，但另一些人认为这对于第三方兼容性、自动对焦优化以及自定义镜头功能至关重要。
* **工程理念：** 讨论涉及了硬件保护的局限性。工程师们讨论了保险丝的作用，澄清其主要用于防火而非保护元器件，并强调主动限流对于保护敏感的半导体密集型电子设备是必要的。
* **行业趋势：** 参与者注意到了现代电动自动对焦光学元件与高质量手动对焦镜头复兴之间的张力，并强调电影镜头仍以机械结构为主，以优先保证对焦一致性和手动控制。
在利用聚簇索引（例如 SQLite 的 `WITHOUT ROWID` 表）的数据库中，使用随机 UUID（UUID4）作为主键会显著降低性能。由于聚簇索引是按主键进行物理排序的，随机值会迫使数据库在插入时不断地重新平衡 B-tree 结构。
基准测试表明，由于频繁的页面读写和树结构重新平衡所带来的开销，使用 UUID4 进行插入的速度比使用自增整数 `rowid` 慢 10 到 12 倍。
作者提出了一种实用的解决方案：使用 **UUID7**。与 UUID4 不同，UUID7 是按时间排序的。当作为主键使用时，其顺序特性可以避免随机键导致的 B-tree 碎片化，将性能恢复到接近标准整数键的水平。总之，如果您必须在聚簇索引中使用 UUID，选择像 UUID7 这样按时间排序的格式对于维持数据库效率至关重要。
关于“SQLite 中使用 UUID 作为主键的弊端”的讨论，主要围绕一个常见的议题：UUID 的便利性与整数主键性能之间的权衡。
要点如下：
* **性能：** 在 `WITHOUT ROWID` 表中将随机生成的 UUIDv4 用作主键，会因 B 树页面碎片化而导致插入性能显著下降。使用 UUIDv7 或标准整数 `ROWID` 等顺序方案则高效得多。
* **实用性：** 许多开发者倾向于使用标准的顺序整数（`BIGINT`）进行内部关联和存储，同时保留一个单独的 UUID 列作为对外标识符。这避免了将 UUID 用作主键带来的开销和复杂性。
* **“BigInt”陷阱：** 一个反复被提及的警告是，JavaScript 在处理大 `BIGINT` 数字时，常因将其解释为 64 位浮点数而导致舍入，除非通过字符串处理或使用支持 BigInt 的驱动程序，否则会导致数据损坏。
* **设计权衡：** 虽然 UUID 非常适合分布式系统，但对于仅限本地的应用程序，SQLite 自动生成的整数 `ROWID` 在简洁性和性能上更具优势。
最终，业界共识认为：除非在互不连接的系统间有全局唯一性的需求，否则顺序整数依然是主键最稳健且高效的选择。
无法建立数据库连接
安全研究员史蒂文·默多克（Steven Murdoch）近日发布的一份报告引发关注，该报告指出在民用GPS L1信号中嵌入了一段加密数据流。这项发表在《Inside GNSS》上的研究指出，卫星多年来一直在广播这些数据，导致一些人将其比作“数字电台”——一种向特工发送编码信息的手段。
尽管这一发现在Hacker News上引发了热烈讨论，但专家和评论人士指出，这些发现并非本质上就是险恶的。普遍共识是，这些数据很可能是美国军方使用的一种密钥管理系统（OTAR/OTAP），用于安全地更新加密的GPS接收器，并为了方便起见借用了现有的卫星星座。
批评人士认为，“数字电台”的说法过于夸张，并指出利用公共全球广播进行军事信号维护是一种合理的工程选择，而非秘密间谍战术。尽管一些用户对报道的新闻基调提出了争论，但其背后的技术分析——涉及可以使用现成硬件截获的数据——仍是了解支撑现代导航的GPS基础设施隐藏的多功能性的一扇引人入胜的窗口。
Warren 抽象机：教程重构（作者：Hassan Ait-Kaci，网址：http://wambook.sf.net） 《Warren 抽象机：教程重构》是由 Hassan Ait-Kaci 所著的一本书。该书对 Warren 抽象机进行了详细讲解，目前已绝版。作者拥有该书版权，此前曾于 http://vanx.org/archive/wam/wam.html 提供免费访问，供非商业用途使用。目前 vanx.org 似乎是一个停放域名，因此我建立了此页面，方便有需要电子版书籍的人士查阅。
```Hacker News
最新 | 往日 | 评论 | 提问 | 展示 | 招聘 | 提交
登录
Warren 抽象机：教程重构 (github.com/a-yiorgos)
25 点，由 nextos 发布于 1 天前 | 隐藏 | 往日 | 收藏 | 2 条评论 | 帮助
Milpotel 21 小时前 [–]
天哪，这让我想起我必须修的一门课，我们得死记硬背 WAM，然后在考试时在纸上执行它。最没用的一门课。
回复
YeGoblynQueenne 13 小时前 | 父评论 [–]
这太残忍了。这是在哪里发生的？
回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系
搜索：```
2026年6月5日，作者在阅读了罗伯特·布林（Robert Breen）和布莱斯·雷（Bryce Wray）的相关经历后，对视力衰退带来的挑战进行了反思。作者和雷都已转向将“深色模式”作为首选界面，以缓解视力问题。 作者叙述了近期个人的困扰，特别是后玻璃体脱离导致的持续性飞蚊症和闪光感。虽然这些症状已部分消退，但由此导致的左眼浑浊，使得阅读标准的浅色模式界面（浅色背景上的深色文字）变得困难。相反，深色模式（深色背景上的浅色文字）能显著减轻视疲劳，使日常的数字工作更易于处理。这种转变凸显了人们在面对与年龄相关的眼部变化时，一种常见且切实的适应方式。
这篇 Hacker News 讨论帖强调了中年时期应对视力变化（尤其是老花眼，即近距离聚焦能力丧失）时，那种常见且令人沮丧的经历。
参与者反映，视敏度会出现明显且往往是突如其来的下降，尤其是在光线不足的情况下。讨论的一个核心争议点是渐进多焦点镜片的有效性。虽然一些用户认为这种镜片因方便而必不可少，但许多人将其描述为一种“光学上有缺陷”的折中方案，会导致头晕、周边视力扭曲以及人机工程学方面的压力。因此，许多贡献者更倾向于拥有多副专业眼镜（例如分别针对远眺、电脑工作和阅读的处方眼镜），而不是使用单镜片解决方案。
对话还涵盖了各种与衰老相关的眼部疾病，包括圆锥角膜、角膜擦伤、飞蚊症和白内障的发生。一些用户讨论了屏幕技术的影响，特别是对高分辨率（4K）显示器的偏好，以及关于亮色模式与深色模式的持续争论，并指出散光往往会让深色模式下的文字显得模糊。
讨论的共识是：视力需求因人而异，往往需要与验光师进行反复试验才能确定；同时，定期进行眼科检查对于发现视网膜脱离或青光眼等严重问题至关重要。