每日HackerNews RSS

Muon 优化器在函数空间采用了谱范数约束,为 Adam 等传统的参数空间优化器提供了一种强有力的替代方案。然而,将其应用于 Transformer 中的查询(Q)和键(K)权重矩阵时会导致训练不稳定,因为 Muon 的满秩更新可能导致奇异值(进而导致注意力 Logits)爆炸。 其根本原因在于双线性注意力运算($QK^T$)中 $W_Q$ 和 $W_K$ 的函数耦合。对这些矩阵单独施加约束无法控制其乘积,从而导致“MaxLogit”崩溃。虽然涉及伪逆和投影的耦合更新规则在理论推导上非常精妙,但其计算成本使其在实际应用中并不可行。 因此,研究重心已转向经验近似法。例如 **MuonClip** 等策略,通过基于批次内最大 Logit 值动态调整权重缩放或 Softmax 温度,作为理论谱范数约束的实用替代方案。尽管这些启发式方法缺乏通用证明的严谨性,但它们有效利用了批次内统计信息来稳定训练。归根结底,优化 QK 层所面临的挑战突显了一个更广泛的机遇:将 Muon 的函数空间理念应用于低秩结构,这可能成为弥合稳定训练与高效参数适配(如 Muon-LoRA)之间差距的桥梁。

抱歉。

最近发表在《阿尔茨海默病与痴呆症》杂志上的一项研究表明,中年时期频繁观看电视可能会对大脑健康产生负面影响。研究人员分析了1700名成年人长达二十年的数据,发现“非常频繁”看电视的人,其与记忆和执行功能相关的大脑区域体积有所减少,且痴呆症和认知能力下降的指标有所增加。 至关重要的是,该研究指出,这些负面结果并非仅仅因为看电视时久坐不动所致。工作期间长时间久坐的参与者大脑健康状况更好,这很可能是因为职业中的久坐往往伴随着更多的智力活动。这表明,久坐时所从事的活动类型至关重要。 尽管这项研究存在局限性(例如依赖自我报告的数据),但它挑战了传统上仅关注久坐时长的健康建议。研究人员建议,除了“多站起来”的口号外,我们还应优先选择具有智力刺激性的活动,而非被动地观看电视,以维护长期的认知健康。未来仍需进一步研究以更好地了解这些大脑结构的变化,特别是为何男性在此项研究中显得更为脆弱。

一项近期研究表明,频繁看电视与大脑结构变小之间存在相关性。尽管这些发现引发了 Hacker News 上的热烈讨论,但专家和读者均指出了几个关键的细微差别: * **相关性与因果关系:** 该研究属于观察性研究,无法证实看电视会导致大脑退化。大脑结构较小的人可能更容易倾向于被动地观看电视。 * **主动与被动久坐时间的区别:** 研究值得注意地发现,涉及智力活动的久坐工作(如编程或研究)与被动看电视相比,大脑健康状况更好。这表明差异在于认知参与度,而非身体活动量。 * **对“电视”的定义:** 评论者质疑现代流媒体(如 Netflix、YouTube)如何符合这些发现。许多人认为,媒介(电视屏幕)的重要性远不及内容性质(消费内容与主动创造)。 总之,人们达成的共识是“用进废退”原则可能适用:具有认知刺激性的主动追求似乎对大脑健康有保护作用,而被动、重复的消费则可能加速与年龄相关的衰退。然而,由于该研究设计缺乏基线脑部扫描,因果关系的方向仍是一个悬而未决的问题。

请启用 JavaScript 和 Cookie 以继续。

抱歉。

Orion 的资金 100% 来自用户;绝无广告,也绝无第三方交易。获取 Orion Plus,真正掌控您的浏览器。 作为一个自筹资金的企业,我们的主要收入来源直接来自用户。为了维持 Orion 的持续开发,我们目前提供订阅制或便捷的一次性终身许可。

关于 Orion 浏览器的 Hacker News 讨论显示,社区对此评价两极分化。虽然许多用户认可 Kagi 致力于提供零遥测、无广告且基于 WebKit 的浏览体验,但重大疑虑依然存在。 最显著的批评在于**缺乏开源透明度**。用户认为,浏览器作为处理敏感数据的主要接口,应当是自由及开放源代码软件(FOSS),或者至少应当公开源代码以确立信任。许多人还指出,尽管该浏览器拥有嵌套垂直标签页和支持多个扩展商店等创新功能,但仍深受 **UI 错误和稳定性问题**的困扰,导致用户往往回流至 Firefox 或 Safari。 关于 Kagi 搜索引擎后端(特别是其历史性地使用 Yandex)的争论也十分激烈,尽管 Kagi 给出了务实的解释,但一些用户仍对其背后的伦理影响表示质疑。此外,一些高阶用户认为其同步功能和密码管理相比主流替代品而言不够可靠。 总的来说,尽管人们对 Chrome 和 Firefox 的高质量替代品抱有真诚的热情,但许多潜在的长期用户仍在观望,等待更稳定的版本发布和更透明的开发流程。

请启用 JavaScript 和 Cookie 以继续。

关于 MikroTik 路由器的 Hacker News 讨论显示,社区对于该硬件在性能与易用性之间的权衡看法两极分化。 **优势:** 用户称赞 MikroTik 以实惠的价格提供了高端且功能丰富的硬件,其性能往往优于消费级替代品。长期硬件支持、命令行界面 (CLI) 控制以及“安全模式”(可防止错误配置后被永久锁定)被多次强调为主要优点。许多用户利用大语言模型 (LLM) 来弥补复杂配置的缺口,并指出 MikroTik 的文档现在越来越“对 LLM 友好”。 **批评:** 主要抱怨在于陡峭的学习曲线。其专有 UI 常被形容为不直观,用户认为一些现代基础功能(如缓冲区膨胀保护或简单的端口转发)不应要求具备高级网络知识才能配置。 **替代方案:** 该讨论串展示了用户理念的分歧。一些人偏好 **OpenWRT** 或自定义 **Debian/VyOS** 构建所带来的“裸机”控制权,以追求透明度和对自由开源软件 (FOSS) 的遵循。另一些人则倾向于 **Ubiquiti (UniFi)** 或 **OPNsense**,以获得更精致、更友好的用户体验。归根结底,对于那些优先考虑原生性能和深度定制而非即插即用的高级玩家和中小企业来说,MikroTik 依然是核心之选。

向缺铁的海域投放铁元素以促进固碳浮游植物生长,这一构想常被视为充满风险的实验性举措。然而,作者认为这种怀疑态度源于无知,而非科学事实。 数百万年来,大自然一直在进行海洋施肥的“大规模实验”。火山灰、沙漠沙尘暴、野火烟尘、海底热液喷口、融化的冰山甚至鲸鱼排泄物等天然营养源,都能可靠地触发浮游植物爆发。来自卫星、机器人浮标和科考船的数十年数据表明,其因果关系精确且可预测:向贫瘠海域添加铁元素会促进生长,而停止供应后生长即会迅速停止。 关键在于,对这些广泛发生的自然事件的研究表明,并无生态危害的证据。作者主张,如果人类主导的营养物质添加经过精心规划和监测,其可控性和安全性将远高于大自然目前那种随机且大规模的营养物质输入。归根结底,对海洋施肥的抵制并非基于科学风险,而是一种意识形态偏见——即认为人类干预必然危险,而将“自然”的地质现象视为无害。

抱歉。

Valve 正与 Collabora 合作开发名为“Holo Core”的项目,旨在将 Arch Linux 移植到 aarch64 架构,以支持 Steam Frame 的 CPU。由于 Arch Linux 缺乏官方的 aarch64 支持,且采用滚动更新模式,团队在创建可复现的自动化构建系统时面临巨大障碍。 主要挑战在于如何“重放”Arch 的构建历史,这需要解决复杂的依赖链以及不便于重建的软件包顺序问题。团队不得不构建了一套复杂的持续集成(CI)基础设施,以处理版本依赖、SONAME 转换以及上游源不稳定性等问题。 Collabora 现已发布了一个概念验证快照,包含二进制文件、源代码和开发容器,允许开发者在 aarch64 上尝试 Arch Linux。尽管目前的工具尚属内部使用,但团队计划将其完善为一个能够实时同步 Arch Linux 更新的系统。最终,Valve 和 Collabora 的目标是将该基础设施贡献回 Arch Linux 上游项目,通过协作方式推动官方对 aarch64 的支持,并为更广泛的社区提供自动化、可重复的构建方案。

对不起。

SoundCloud 最近升级使用了 Fraunhofer 的 `libfdk_aac` 编码器,该编码器将音频质量置于频谱图的视觉连续性之上。用户可能会注意到上传曲目的频谱图在 17 kHz 处出现“硬截止”——这看起来像是质量损失,实际上却是性能的提升。 由于有损压缩在编码音频时拥有有限的比特预算,编码器必须对不同频率进行取舍。由于人类听觉对 17 kHz 以上频率的敏感度远低于对关键中频段(2–5 kHz)的敏感度,编码器会策略性地“牺牲”那些难以察觉的高频数据。通过切除这些高频部分,编码器将更多的比特分配给了人类可听的频谱,从而获得更纯净、更精确且伪影更少的声音。 归根结底,这是一种基于心理声学而非原始数据留存的权衡。尽管频谱图显示出较低的截止频率,但听众在人耳最敏感的频率范围内获得了更高的保真度。该编码器的设计初衷是优化人类的听觉感受,而非优化声音在图表上的视觉效果。

抱歉。

作者将并行计算与人类存在进行了类比,指出我们所面临的最大挑战——无论是技术层面还是个人层面——皆源于协调能力的缺失,而非能力的不足。 在计算领域,单纯增加处理器并不能提升效率;性能取决于有效的沟通、同步以及任务的均衡分配。同样,人类也常受困于内在的碎片化。当我们的思想、情感和行为不同步,或受困于未完成的“后台进程”时,便会产生焦虑与倦怠。 通过融合禅宗原则,作者提出“全心全意的活动”——即让体验被充分感受并完整达成,而非将其滞留为持续的精神残留——是一种内在的同步。无论是处理器还是个人,真正的效能并非源于资源的堆砌,而是源于对现有资源的整合。归根结底,本文旨在引发我们的深思:我们所受的局限或许并非能力的匮乏,而是源于内心的分裂。

对不起。

在 C++ 中,标准规定具有不同语言链接(例如 "C" 与 "C++")的函数类型是不同的,即使它们的签名完全相同。此规定旨在应对调用约定可能存在的差异。 然而,GCC 和 Clang 并不在函数类型中存储语言链接信息。因此,它们将 "C" 和 "C++" 函数类型视为相同,这会导致 `static_assert` 检查失败,并在重载接受这些指针的函数时引发错误的编译报错。 虽然这种行为违反了 C++ 标准,但编译器实际上已无法更改。改变其实现方式将构成破坏性的 ABI 变更;况且在几乎所有现代平台上,C 和 C++ 的调用约定完全一致,因此几乎没有实际动力去修改这一实现。归根结底,这表明 C++ 标准本身已与现代实际情况脱节。作者认为,语言链接应被定义为依赖于具体实现,而非强制执行,并承认编译器除了维持现状这种不符合标准的形式外别无选择。

最近的一场 Hacker News 讨论指出,GCC 和 Clang 等主流编译器并未完全严格遵守 C++ 标准。评论者指出,这并非新问题;编译器往往优先考虑实用性、可交付的代码以及特定平台的性能,而非严格遵循规范。 这场讨论演变为一场关于系统编程现状的更广泛争论: * **标准与现实:** 有人认为,由于高质量的开源编译器已具备广泛的可移植性,语言标准已经失去了其团结不同供应商的初衷。 * **C++ 的复杂性:** 该语言极其庞大,导致开发者往往使用不同的“方言”或子集,从而引发兼容性和招聘方面的摩擦。 * **现代替代方案:** 教育者和开发者讨论了 Rust 和 Zig 等新语言的优点。尽管支持者提倡更安全、更现代的设计,但质疑者认为,对于复杂的性能关键型系统以及 GPU 编程等特定领域,C++ 仍然是“阻力最小”的选择,因为这些领域有着深度绑定 C++ 的硬件专用工具链。 最终,参与者们承认,虽然系统编程需要处理深奥的技术细节,但语言的选择始终是在现代安全性与根深蒂固的生态系统支持之间的一种权衡。

更多

联系我们 contact @ memedata.com