每日HackerNews RSS

本教程说明如何使用 vLLM 通过张量并行(TP=2)在两台 NVIDIA DGX Station 上本地服务 NVIDIA 753B 参数 GLM-5.3 NVFP4 模型。由于约 464 GB 的 checkpoint 超过单个 GB300 GPU 的内存,权重会拆分到两块 GPU 上,同时两台 Station 参与每次请求的计算;Station A 提供单个 OpenAI 兼容 API。设置包括通过 ConnectX-8 RDMA 连接 Station、创建环境变量、验证网络/时间/GPU 状态、在两个节点上下载并校验 checksum 的 checkpoint,以及启动配对的 vLLM rank。启动后,健康检查和 RDMA 检查确认 GPU 直连通信,随后通过聊天请求验证推理。基准测试使用 AIPerf 与 SPEED-Bench Coding 提示词在不同并发下进行;结果显示吞吐量在 C16 时达到峰值 607.8 tok/s,而延迟和每用户吞吐量在 C32 时变差。最后,容器可以停止并重新启动,checkpoint 保持不变。该端点支持在本地、私有且免费的环境下进行前沿规模模型实验。

Hacker News 上的讨论围绕一篇报道展开,该报道称 GLM-5.3 使用 vLLM 在两台 Nvidia DGX 工作站上达到 607.8 tokens/sec 的服务速度。评论者争论约 20 万美元的配置是否经济合理:有些人认为 API 定价使投资回报率不佳,而另一些人认为自托管对隐私、合规、敏感数据和模型稳定性很重要。性能细节包括单用户约 107 tok/s,16 用户合计约 607 tok/s。一些人比较替代方案,指出 GLM-5.3 Flash 和 DeepSeek 可能更便宜或更节省内存,且据报道 8 块 RTX 6000 Pro 能以更低价格提供更高吞吐量。其他人强调桌面 DGX 硬件的功耗、噪音和带宽限制。有些人建议等待 2027 年高带宽闪存方案以实现更便宜的本地前沿推理,而当前本地配置则吸引希望模型审查更少的用户。总体而言,该帖讨论了成本与控制、隐私和延迟之间的权衡。

Antigravity 的 /teamwork 功能是通过广泛的 Google 内部协作开发的,涉及工程、研究和项目管理等领域的许多贡献者,并得到高级领导和学术合作伙伴的支持。该工作反映的是广泛的、持续的探索,而非单个团队的成果。

Hacker News 上的一个帖子讨论了 Google Antigravity 的 /teamwork 功能及报告的科学/工程成果。Google 表示多智能体、基于角色的工作流帮助解决了开放数学问题、形式化大型 Lean 证明、改进了化学 NMR 结构匹配,并加速了系统/TPU/内核任务,以及 Rust 重写。评论者就这些说法的价值和清晰度展开争论:一些人称赞多智能体方法并引用相关研究,而另一些人批评写作晦涩、工具链用户体验、定价层级和验证可靠性。与 Claude Code 和 Codex 的比较反复出现,同时也存在对 Google 开发者 LLM 重点和 AI 驱动的作者署名/署名权的担忧。总体来说,这个帖子围绕 teamwork 风格的智能体是否能在令人印象深刻但难以评估的演示之外,带来有意义、值得信赖的进展。

文章认为,成功与财富常滋生傲慢,尤其在科技领域。人们将成功归因于能力而非运气,把专业技能等同于通用智能,并产生虚幻的优越感。文中以比尔·盖茨为例,指出他在判断AI的生物学能力时过于自信,并将AI达到他的编程水平视为“超人类”。对许多程序员而言,编程曾是优越感的标志;AI威胁到这种身份认同,导致人们对超级智能体的恐惧被夸大。文章还批评科技领袖缺乏同理心,把他人当作NPC,一边大谈解决人类问题,一边却追求军事合同并忽视气候问题。结论是,这种自称“神”的人并不必要。

Hacker News 帖子讨论“The Claude Delusion”,评论者辩论过度自信、认识论谦逊,以及非专业人士是否能测试 AI。一人将过度自信比作私人飞行员;另一人质疑文章本身关于心理学和人性的主张。其他人挑战 AI 逆转 CO2 减排的主张,并附有 Bloomberg 来源链接。

启用 JavaScript 和 cookies 以继续

一个 Hacker News 讨论串讨论了一篇声称生成式 AI 在非英语文本上消耗更多能源的文章。评论者指出展示问题,包括某些语言中的重复文本“token 爆炸”以及每 token 能耗在 0.1 J 左右聚集、异常值高达 4.8 J。他们就文章结构以及仅测量了三个开源模型(Qwen 3、Gemma 3 和 Llama 3.1)展开争论。其他人质疑基于母语者的指标是否对英语/法语不利,抱怨 Google AI 概览用非英语回答,并推测内部语言处理、以英语为主的链式思维 token 以及类似翻译层。总体而言,该讨论串突出了实证发现与对原因的不确定性。

隐私正日益受到环境监控设备——智能眼镜、手表、挂坠和戒指——的影响,这些设备会记录、转录或总结日常生活。Meta、Google、Apple、Amazon 等公司把这些工具作为个人选择进行营销,但其使用会影响无法退出的旁观者。技术隐私保护通常保护设备所有者,而非非用户。法律问题包括执法部门可能获取转录文本或摘要,以及与录音同意法的合规性不确定。除法律问题外,始终开启的录音会破坏私人对话中的社会规范和自发性,而被动、不显眼的设备使监控比手机或摄像头更容易隐藏。文章认为这些产品并非不可避免:消费者可以抵制、提供反馈、与设备使用者讨论边界、举报滥用内容,并坚持要求同意和适当使用。

Hacker News 的讨论指出,科技公司正通过 AI 会议转录工具和可穿戴录音设备侵蚀隐私。评论者描述了会议和一对一谈话被自动录制的工作场所,提出同意、法律证据开示和监控等问题。一些人认为这些工具有助于提高生产力,另一些人则警告,无处不在的转录会使对话在法律程序中可被调取,并损害坦诚交流。讨论扩展到智能眼镜和始终开启的传感器,人们对公共场合录音是否可接受以及 Meta 等公司是否可信存在分歧。用户还讨论了双方同意、GDPR 和宪法隐私等法律框架,以及威权滥用的风险。建议的应对措施包括要求关闭记录工具、组织工会、技术对抗措施和更强的隐私法律。总体而言,该讨论反映出人们对隐私在没有有意义同意的情况下被重新定义的焦虑。

本文解释如何用 JavaScript 构建一个小型、人类规模的 PostScript 解释器。它涵盖 PostScript 基础:词法单元、栈(操作数栈与字典栈)、过程、数组和运算符。它将 PostScript 值表示为 JavaScript 原始值,将程序解析为词法单元序列,并通过在字典栈上查找名称来执行。它定义了原始运算符,初始化栈,并提供交互式 REPL。随后探索 PostScript 编程示例,如条件语句、min、斐波那契、反转、拼接和类似 Forth 的别名,同时指出动态作用域和缺乏词法作用域等局限。最后建议扩展,包括更多运算符、额外数据类型、字符串和改进的错误处理。

Hacker News 上的一篇帖子链接到 beyondloom.com 上的“Let’s Write a PostScript Interpreter”。它有 12 个积分和 4 条评论。评论者讨论说,编写一个微型解释器可以教授编程语言概念,而另一人认为 PostScript 的语言很简单,真正的挑战在于图形和字体渲染。其他人称赞《PostScript 语言参考手册》对细节的关注,并指出这个项目对许多读者来说会是新颖的乐趣。

新网页仓库中过度使用 ↗ 主要似乎由 AI 模型驱动,尤其是 OpenAI Codex。对约 4,000 个公共 GitHub 仓库的抽样发现,箭头占比从约 4.6%(2025 年 11 月–2026 年 3 月)上升到 18.1%(2026 年 9 月 3 日–11 月 7 日)。Claude 归属的 UI 提交在 Opus 4.8 时于 5 月达到峰值 9.7%,随后随 Opus 5.5 降至约 2%。Codex 归属的提交上升更多,从 3 月的 0% 到 9–11 月的约 26%,后续 GPT-6/Astra 时代最高。总体而言,约四分之一的 Codex UI 提交添加了箭头。在小样本中,Codex 箭头 63% 的时间指向内部链接,而 Claude 为 33%。结果来自公共 AI 归属提交和筛选后的 UI 相关变更,因此主要反映 LLM 编写的落地页。

一篇题为“The curious case of the north-east arrow”的 Hacker News 帖子讨论了 AI 生成链接中出现箭头的问题。一位评论者推测,OpenAI 模型可能在 Anthropic 模型之后增加了箭头使用,可能是因为奖励模型学会了将箭头与首选 UI 关联起来,形成自我强化循环,类似于 em dash 的过度使用。另一位评论者称其为“时尚”,将其与域名趋势作比较,并指出作者过时的个人资料仍引用 `.xyz`,而提交使用的是 `.zip`。

在美国纽约州奥斯威戈,美国鱼类和野生动物管理局的生物学家在一次水生入侵物种调查中,捕获了一条罕见的本地江鳕,它表现出黄色素症——一种导致黄橙色体色的基因突变。这是鱼类调查中首次在奥斯威戈港记录到江鳕,尽管钓鱼者此前已有捕获。 这一发现凸显了早期探测与监测计划的有效性;该计划利用多渔具监测,即使在物种稀少时也能尽早发现入侵物种。捕获这条不寻常的本地鱼表明该计划能够探测低丰度物种。 湖中江鳕种群数量极低,且该物种通常栖息于比港口更深、更冷的水域。野生鱼类中,黄色素症比白化病或黑化病更罕见。美国地质调查局生物学家发现该鱼消瘦且健康状况不佳,因此将其送至康奈尔大学分析。这一稀有标本可能为了解整个流域的江鳕种群健康状况提供宝贵线索,并为未来管理提供参考。

一篇 Hacker News 帖子介绍了 USFWS 的一篇文章,内容是服务船员在奥斯威戈港发现一条罕见的黄色鳗鳕。这条鱼看起来消瘦且健康状况不佳,因此被送往康奈尔大学兽医学院进行健康分析。评论者讨论了五大湖地区其他不常见的鱼,如淡水鼓鱼和弓鳍鱼,并争论这条鳗鳕是否在处理过程中被杀死。一位评论者澄清,处理可以指识别、测量和检查动物,并尽量减少伤害,而其他人则指出它是否存活仍不确定。帖子还包含关于其他稀有生物的题外话,以及对杀死稀有野生动物的担忧。

作者正在评估旧智能手机,作为需要高分辨率相机、GPS、存储和灯光控制的项目的树莓派方案替代品。已root的Redmi 13C 5G和Huawei Mate 30 5G提供50MP/40MP相机,以及内置GPS、存储、电池、移动数据和触摸屏,并可通过USB-C连接灯光控制器。二手手机价格便宜,但采购数百台时,电池和相机表现的一致性仍不确定。作者已对Redmi进行root并测试,计划与Arducam进行相机对比,并看到了在数字艺术装置中的更广泛应用:配置好的手机可发货、插入电源,并经移动数据远程管理。

Hacker News 上的一个帖子讨论用旧智能手机替代树莓派做小型项目。文章认为旧手机可能有用,但评论者指出,由于硬件不一致、电池老化和不可预测的故障,规模化使用二手手机很困难。有人建议拆除电池并使用模拟器或充电器,以实现更安全的长期使用。其他人说,root 或刷机现代手机很困难,因为存在旧内核和锁定的引导加载程序,而笔记本电脑或树莓派提供了更易于开发和维护的软件。手机很坚固但缺少 GPIO;USB 开发板可以添加引脚。总体而言,旧手机可以减少电子垃圾,并可用于纯软件家庭实验室,但树莓派因其可靠性、GPIO 和更简单的折腾而更受青睐。

本仓库是一个用于研究的血糖预测模型“动物园”(多为 AI 编写的代码)。作者的 T1DMAI 是一个 31k 参数的仅编码器 Transformer,可预测未来 2 小时(DILATE 或 MSE 变体),先在合成 CGM 轨迹上训练,再可选地用小型 LoRA 适配器微调。它仅用于研究,不是医疗器械。基准测试使用作者的 115 天数据集和 MetaboNet(279 名受试者)。在个人数据上,T1DMAI+LoRA 排名第 3(RMSE 22.8),落后于 XGBoost/LightGBM(约 22.2–22.4);在 MetaboNet 上排名第 9(34.6),但拥有最低的 90 分钟 RMSE。LoRA 改善了 RMSE 和校准;T1DMAI+LoRA 在个人数据上反应最早,并捕获最多低血糖;而 MetaboNet 上低 RMSE 模型几乎错过所有低血糖。辅助工具包括 T1DMSIM(合成轨迹)和 T1DMDROID(手机推理)。

一篇 Show HN 帖子介绍了一个 GitHub 项目,作者在自己的数据上训练了 15 个血糖预测模型。该帖子获得 23 个积分和 7 条评论。评论者称赞这项工作及其准确度。有人询问是否考虑了饮食信息;作者回复称碳水化合物和胰岛素在推理过程中已被纳入考虑。另一位评论者提到 89% 的目标范围内时间,并构建了一个结合碳水、胰岛素、睡眠和运动数据的仪表板。作者计划添加更多近期模型,将发表的指标与个人结果进行比较,并再次发帖。其他人表示赞赏,包括一位 1 型糖尿病患者的配偶。总体而言,这是一个 n=1 的糖尿病数据/建模项目,获得社区正面反馈。

更多

联系我们 contact @ memedata.com