自 2020 年以来,人工智能行业的重心已从**训练**超大规模模型转向**推理**——即运行这些模型以生成文本、代码和驱动自主智能体行为的高算力需求过程。由于大语言模型(LLM)现已采用能够成倍增加输出并全天候运行的“推理”技术,对推理基础设施的需求激增,促使科技巨头结成前所未有的联盟并制定新的硬件战略。
与高度可并行化的训练不同,推理(特别是令牌生成的“解码”阶段)受到内存带宽的限制。随着模型规模的扩大,它们对数据的处理需求往往超出了标准 GPU 的数据传输能力,导致处理器空转。为解决这一问题,行业正转向“系统级”解决方案:
* **以内存为中心的架构:** d-Matrix 和 Majestic Labs 等公司正在将计算直接堆叠在内存上,或扩展接口以使用成本更低、容量更大的 DRAM。
* **专用硬件:** 英伟达(Nvidia)和亚马逊(Amazon)等厂商正在将传统 GPU(用于处理提示词)与专用芯片结合,例如 Cerebras 的晶圆级引擎或 Groq 以 SRAM 为核心的 LPU(用于生成)。
* **软件优化:** 量化(使用 4 位精度)等技术在保持模型质量的同时,大幅减小了内存占用。
归根结底,推理正在推动一个多元化、非常规硬件创新的新时代。
在标准的 IPv6 邻居发现机制中,主机在配置地址后即可立即联系路由器,但路由器在解析出主机的链路层地址之前无法发送回程流量。这种被动响应过程往往会导致连接的首批数据包延迟或丢失。 RFC 9131 中定义的 **GRAND(免费邻居发现,Gratuitous Neighbour Discovery)** 解决了这一不对称问题。主机不再等待路由器请求信息,而是在新地址可用时主动发送未经请求的邻居通告(NA)。随后,路由器主动在其邻居缓存中创建一个“STALE”条目,从而能够立即转发回程流量,无需经历地址解析带来的延迟。 在 FreeBSD 中实现 GRAND 不仅仅涉及数据包传输,还需要构建一套新的基础设施来处理通告的排队与延迟。通过严格遵守 RFC 4861 的定时和随机化规则,该实现确保了主动通告的高效性,并避免在繁忙网络中引发“组播风暴”。正如 RFC 9898 所认可的那样,GRAND 最终弥合了主机配置与网络就绪之间的差距,确保了数据中心和移动网络等动态环境下的连接能够更快建立。
Firefox.com 的重建是网页开发领域的一个里程碑,它最终实现了“CSS 禅意花园”(CSS Zen Garden)所追求的那种简洁、原生的设计理想。通过与 Mozilla 和 Lincoln Loop 的合作,开发团队放弃了复杂的预处理器,转而拥抱现代的原生 CSS。 得益于 CSS 变量(自定义属性)、Flexbox 和 Grid 等原生特性,团队构建了一个包含 70 多个组件和 25 个页面模板的健壮设计系统。这使得内容团队能够在无需工程团队持续介入的情况下,轻松管理 19 种语言版本。虽然项目使用了一个极简的 PostCSS 步骤来内联导入以提升性能,但其源代码始终保持为纯粹的浏览器原生 CSS,避免了现代构建工具通常所要求的“方言”。 该项目证明了网页平台已经足够成熟,足以在没有冗余架构层的情况下支持复杂且易于维护的设计系统。它强调了回归浏览器原生能力的趋势,确保设计决策能够直接转化为生产环境的结果。归根结底,这种方法推崇一种“正确”且“简便”的构建流程,从而为开发团队实现长期的系统一致性和开发速度。
在使用 Oura Ring 一年后,作者决定改用腕带式健身追踪器。尽管该戒指在监测睡眠、步数和早期疾病症状方面表现有效,但作者遇到的几个持续性问题最终使其弊大于利。 主要问题包括戒指缺乏调节性;由于体重减轻、体温变化和活动量不同,手指尺寸的波动导致佩戴不稳。此外,该戒指在举重时很不实用,因为它在抓握金属时存在损坏和不适的风险。日常清洁也成了问题,水和肥皂常会积聚在戒指下方,这反而增加了设备的损坏几率。 促使作者做出更换决定的最终原因是反复出现的技术故障,原装戒指及其替换品都完全停止了数据记录。在经历了硬件寿命不足的挫败感后,作者决定转用 Fitbit。尽管作者过去一直排斥腕戴设备,但现在他们意识到,手腕是进行健康追踪时远比手指更方便、更耐用的位置。因此,他们更新了个人的技术集成,以同步对接 Google Health API。
请启用 JavaScript 和 Cookie 以继续。
**Cartesian by Formas** 是一款专为建筑和产品设计打造的 AI 3D 建模平台。它能将草图、照片或平面图中的创意转化为精确的专业级 3D 模型。
与生成简单多边形网格的工具不同,Cartesian 能够生成整洁且可编辑的几何体,包括实体和 NURBS 曲面。用户既可以保留现有设计中的特定元素,又可以通过自然语言提示词来修改其余部分,从而确保工作流程既顺畅又具备高精度。
主要功能包括:
* **完全可编辑性:** 模型中的每个对象都是独立且可调整的组件。
* **专业兼容性:** 模型与 Rhino 和 SketchUp 等行业标准 CAD 软件完全兼容,并计划集成 BIM 功能。
* **注重精度:** 专为制造、3D 打印和建筑文档设计,所创建的模型可直接用于测量、加工和制造。
Cartesian 通过连接对话式 AI 与传统 CAD,免去了使用昂贵且复杂软件的必要性,为从初步构思到最终装配提供了一条结构化且高效的路径。目前该平台正通过预览候补名单开放使用。