十七世纪时,阿姆斯特丹巨大的财富和工业增长,使得城市面临严重的火灾风险。起初,该市使用抽水机进行灭火,但随着一家大型制糖厂和一家世界知名的印刷厂被彻底烧毁,事实证明这些设备并不足以应对灾情。
多才多艺的画家兼发明家扬·范·德·海登(Jan van der Heyden)改变了这一局面。他运用“系统分析”的方法,开创了更先进的消防技术,包括柔性皮革吸水软管,以及用于保持连续高压水流的空气室。
除了硬件之外,范·德·海登还全面改革了城市的应急基础设施。他建立了一个协调一致的响应网络,包括警报系统、各区消防队,以及针对快速响应的经济奖励机制。到1682年,这种将技术创新与城市管理相结合的综合策略,大幅降低了火灾造成的损失。范·德·海登的改革使阿姆斯特丹从一个易受灾难侵袭的城市,转变为欧洲最具防火韧性且组织最为严密的城市之一,为系统化的城市危机管理树立了早期标杆。
本文提出了“嵌入坍缩”(embedding condensation)这一概念,即较小语言模型中的词嵌入会坍缩至一个狭窄的锥形子空间,从而限制了其表达能力。观察结果证实,这种现象在小模型中比在大模型中更为显著,存在于各种数据集,且源于模型初始化阶段。关键在于,作者证明了利用大模型进行知识蒸馏无法缓解这一坍缩问题。
为解决该问题,作者引入了“离散损失”(dispersion loss)。该训练目标旨在通过鼓励嵌入在单位超球面上分布开来,从而抵消坍缩。通过促进均匀的角离散,该技术使小模型能够获得更接近大模型的高质量潜在表征。实验结果表明,在训练中加入离散损失可有效缓解嵌入坍缩,为在不增加参数规模的前提下缩小小型与大型语言模型之间的性能差距提供了有效路径。作者总结认为,模型的优异性能不仅源于其规模,还源于其潜在信息的结构化组织方式。
发表在《科学》杂志上的一项新研究对一个长期存在的理论提出了挑战,即高大的热带树木由于难以将水分输送到最高枝叶,而天生更容易受到干旱的影响。
通过研究马来西亚婆罗洲的巨型龙脑香科树木(其中一些高度超过 80 米),研究人员发现这些树木已经进化出了复杂的液压适应能力。其中包括加宽靠近树干底部的输水导管,以及使叶片能够承受显著的水分压力。这些调整使树木能够完全补偿高度带来的影响,确保其内部的水分系统无论长到多高都能保持高效运行。
研究关键发现,与高度相关的生长并不会增加树木对干旱的敏感性。这反驳了现有的气候变化模型,该模型曾预测最高、碳密度最大的树木在干旱时期面临的风险最大。由于这些巨树储存了全球一半以上的地上森林碳,这一发现对于准确预测热带生态系统将如何应对气候变暖至关重要。研究人员强调,这些发现有力地支持了保护这些具有韧性且生态上至关重要的森林的必要性。
这篇文章剥离了晦涩的术语,揭示了数字技术的根本原理,从而为现代计算的“魔法”解密。文中指出,我们流畅的设备背后是一套复杂的抽象层,每一层都凝聚了人类的智慧。
这一过程始于物理学:利用电流驱动开关(晶体管),进而组合成逻辑门。这些逻辑门实现了二进制运算、数据存储及指令执行。以此为起点,文章梳理了计算技术的发展脉络:
* **硬件**:晶体管如何演变为通过“取指-译码-执行”周期来运行指令的处理器。
* **软件**:编程语言(从汇编到 Python)如何将人类逻辑转化为机器可读的代码。
* **系统**:操作系统如何管理多任务和内存,以及网络如何实现全球互联。
文章最终认为,软件素养已不再仅仅是计算机科学家的专属,而是驾驭数字优先世界的生存技能。通过掌握这些思维模型,我们能够更安全地使用技术、高效排除故障,并利用人工智能构建工具,从而确保自己是技术的主人,而非被动的从属者。