## Mesh-LLM：分布式LLM推理
Mesh-LLM 通过汇集多台机器的GPU资源，实现大规模语言模型（LLM）的运行。它自动分配模型——对密集模型使用流水线并行，对混合专家（MoE）模型使用专家分片——并且MoE模型实现零跨节点推理流量。
用户可以轻松加入现有的公共网络或创建自己的私有网络，从而获得一个兼容OpenAI API的接口，地址为`localhost:9337`。在macOS Apple Silicon上安装非常简单。系统会根据需求动态平衡模型服务，提升备用节点并根据需要进行重新平衡。
主要特性包括一个共享的“黑板”，用于代理和用户之间的协作知识共享，以及推测解码以提高吞吐量和高效的模型加载。它同时支持多个模型，并通过HTTP流优先考虑低延迟通信。Mesh-LLM 专为本地使用和广域网络设计，为LLM推理提供了一种灵活强大的解决方案。
每日HackerNews RSS
黑客新闻 新 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交 登录
将闲置的GPU算力用于更大规模地运行LLM (github.com/michaelneale)
9点 由 i386 2小时前 | 隐藏 | 过去 | 收藏 | 1条评论 帮助
iwinux 2小时前 [–]
“闲置GPU”这个说法把我搞糊涂了。我根本没有能用的GPU，更别说闲置的了 :) 回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：
具有TUI的6502反汇编器：对Regenerator的现代实现。
A 6502 disassembler with a TUI: A modern take on Regenerator
41 分钟前
## Regenerator 2000：一款现代6502反汇编器
Regenerator 2000是一款功能丰富的、基于文本用户界面（TUI）的6502汇编语言反汇编器，灵感来自经典的Regenerator。它支持广泛的Commodore 8位机（C64、C128等）和文件格式，包括.prg、.d64和.bin。
主要功能包括完整的6502指令集支持、同步的十六进制/反汇编视图、精灵/位图/字符集显示，以及可连接到VICE进行实时分析的调试器，具有断点和单步执行功能。用户可以添加标签、注释和修改数据类型，并具有完整的撤销/重做功能。
该工具提供项目管理、代码/数据区域的自动分析以及针对各种汇编器（64tass、ACME等）的导出选项。它还包括一个强大的导航系统，具有跳转到地址、交叉引用和历史记录功能。可以通过MCP服务器进行程序化访问。Regenerator 2000的设计注重速度，并建议使用现代终端模拟器以获得最佳性能。
对不起。
马丁·福勒阐明了他著名的“分布式对象设计第一法则”——“不要分布式你的对象”——与当前微服务流行的关系。他最初的法则告诫人们不要将对象视为在本地和远程都能无缝使用的，因为速度和可靠性存在内在差异。
然而，微服务并不试图实现这种透明性。它们采用粗粒度通信，通常通过HTTP或消息传递，承认远程调用本质上是不同的。因此，它们并不违反原始法则。
尽管如此，福勒仍然对广泛采用微服务持谨慎态度。虽然他认识到潜在的好处，但他认为分布式会放大复杂性，引入故障处理、一致性和性能方面的挑战。他通常更倾向于单体架构，除非有充分的理由。
然而，福勒强调数据驱动。他承认Netflix和亚马逊等公司成功实施了微服务，并将经验证据置于理论偏好之上。他承认这场争论尚未定论，由于比较架构和隔离贡献因素的难度，明确的答案可能仍然难以捉摸。最终，他的目标是提供清晰的见解，帮助开发者做出明智的架构决策。
微服务与分布式对象第一定律 (2014) (martinfowler.com)
4 分，来自 pjmlp 1 小时前 | 隐藏 | 过去 | 收藏 | 1 条评论 帮助
jauntywundrkind 4 分钟前 [–]
这第一定律的很多内容都与这些系统通常隐藏分布式对象的分布式特性有关。在过去的 10 年里，异步编程变得越来越普遍，这使得分布式边界不再像一个秘密的特殊异常，而更像另一种异步代码。我仍然非常希望看到 capnproto 或 capnweb 成为第三方交接的标准，这样我们就可以构建分布式系统，让微服务 b 使用来自微服务 a 的结果进行计算，而无需通过我们自己代理这些结果。梦想一下。
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系
搜索：
微软已禁用一个注册表技巧，该技巧允许Windows 11用户解锁原生NVMe支持，此前可提供高达85%更快的随机写入性能。这种方法由爱好者发现，激活了最初为Windows Server 2025设计的驱动程序，绕过了NVMe SSD的旧SCSI转换层。
虽然基准测试显示了显著的速度提升，但该技巧导致与SSD管理工具（如三星Magician）的兼容性问题，以及BitLocker加密的潜在问题。微软已在最新的Insider版本中悄悄阻止了注册表覆盖。
然而，原生NVMe仍然可以使用第三方工具ViVeTool启用，但它需要命令行访问，并具有相同的兼容性风险。Windows 11官方、广泛的原生NVMe支持时间仍不清楚。
微软最近阻止了一种允许用户在Windows中启用原生NVMe驱动的技巧，迫使继续依赖较旧、较慢的SCSI仿真层。 这引发了Hacker News上的讨论，用户如“jauntywundrkind”批评此举不顾消费者利益，可能出于向上销售的策略。
这位评论员，一位长期Linux用户，不情愿地指出了这个问题，认为虽然这有利于Linux的地位，但微软的不作为最终损害了竞争和创新。 他们认为即使是Windows用户也应该拥有更好的磁盘I/O性能。
另一位用户开玩笑地说，微软的内部重点似乎放在任务栏等不太重要的问题上，这凸显了用户优先级与公司重点之间的脱节。 启用原生NVMe驱动的解决方法仍然存在，但微软的阻止行为表明他们继续偏爱较旧的系统。
## 游戏商业周回顾：红风工作室关闭与育碧重组 本周游戏行业标志着《游戏商业》成立一周年，同时育碧也出现了重大变动。最大的新闻是红风娱乐工作室的实质性关闭，该工作室以推出《彩虹六号》和《幽灵行动》系列而闻名。虽然工作室将继续开放以进行引擎工作和支持角色，但将失去105个游戏开发职位。 此次关闭是育碧更大计划的一部分，旨在削减5亿欧元的固定成本，导致多家工作室关闭和在多个地点进行裁员——包括斯德哥尔摩、哈利法克斯、多伦多等地，过去一年共裁员1500人。 持续的裁员正在育碧内部制造恐惧和不安的气氛，员工将情况描述为“千刀万剐”，甚至举行罢工。虽然育碧的目标是建立一个更精简、更集中的结构，但持续的不稳定给整个公司蒙上了阴影。
育碧的千刀之死 (thegamebusiness.com)
11点 由 ilamont 4小时前 | 隐藏 | 过去 | 收藏 | 1条评论 帮助
flaminHotSpeedo 21分钟前 [–]
我希望有一种机制，能迫使管理不善、臃肿不堪的公司尽早出售“具有文化价值”的IP。我喜欢早期的幽灵行动和彩虹六号游戏，但现在甚至懒得关注新游戏的消息。回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：
日志文件导航器
下载特点教程文档变更博客
一个终端日志文件查看器
轻松合并、跟踪、搜索、过滤和查询日志文件。
无需服务器。无需设置。但功能强大。
试用：
$
ssh [email protected]
易于使用
只需将 lnav 指向一个目录，它就会处理剩下的事情。
文件格式会自动检测，压缩文件会实时解压。
在线帮助和操作预览使提升您的体验更简单。
性能强大
lnav 在处理日志文件时可以胜过标准的终端工具。
以下图表比较了处理 3.3GB 访问日志时的 CPU/内存使用情况。
该图表也使用 lnav 的 SQLite 接口生成。
了解更多
查看介绍视频
和文档
以了解更多信息。
日志文件导航器
日志文件导航器 [email protected]
tstack/lnav
日志文件导航器，简称 lnav，是一个面向小规模应用的先进日志文件查看器。
黑客新闻 新的 | 过去的 | 评论 | 提问 | 展示 | 工作 | 提交 登录
终端日志文件查看器 (lnav.org)
15 分 wiradikusuma 56 分钟前 | 隐藏 | 过去的 | 收藏 | 2 评论 帮助
asmosoinio 2 分钟前 | 下一个 [–]
看起来很有用，会尝试一下。这与我使用 grep+less 的方式产生共鸣：https://github.com/tstack/lnav?tab=readme-ov-file#why-not-ju...回复
p0w3n3d 8 分钟前 | 上一个 [–]
这几乎是我想要和需要的。我需要的是某种 TUI grafana - Json 日志分割器/组织器/查找器回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系
搜索：
## Baochip-1x BIO I/O 协处理器：项目更新
本次更新详细介绍了BIO的开发，它是一款为Baochip-1x设计的I/O协处理器，灵感来自树莓派的PIO，但采用了基于RISC的方法重新设计。I/O协处理器将任务从主CPU卸载，提供确定性定时，这对于精确的外设控制等任务至关重要。
初步研究涉及复制PIO，发现其资源消耗出乎意料地大——超过了CPU核心本身的一半FPGA资源，这归因于复杂且高度可配置的指令。这促成了BIO的设计：四个RISC-V核心（PicoRV32），并增强了寄存器队列和同步机制。
BIO优先考虑面积效率而非原始速度，从而实现比直接PIO实现更小的占用空间和更高的时钟速率。它利用每个核心4KB的指令存储器，并提供C工具链（通过Zig）以便更轻松地开发复杂的I/O逻辑。虽然PIO擅长原始的位操作，但BIO更适合卸载协议栈和更复杂的任务。
该项目是开源的，但用户应注意围绕PIO架构的潜在专利问题。资源，包括代码示例和文档，可在GitHub上找到。
## Hacker News 上关于 BIO 协处理器的讨论
一篇关于 Raspberry Pi Pico 的 Bao I/O (BIO) 协处理器的文章正在 Hacker News 上引发讨论。BIO 旨在加速 I/O 操作，为程序化 I/O (PIO) 提供一种潜在的替代方案。
用户对 BIO 的设计印象深刻，特别是它使用 FIFO 队列，这与“流语义寄存器”——一种通过最小化加载/存储操作实现密集、类似 DSP 代码的 RISC-V 扩展——提供了相似的优势。
然而，人们对时序约束以及由于编译器变化和指令集复杂性而导致的周期计数潜在问题表示担忧。虽然 BIO 使用的硬件资源较少，并且比 PIO 实现了更高的时钟速度，但*每个时钟*的效率明显较低。现有的 PIO 实现已经实现了令人印象深刻的速度（400Mbps-800Mbps），这引发了关于 BIO 在某些应用中的实际优势的问题。
古巴最近经历了一次近30小时的全岛停电，很可能由特朗普政府时期人为制造的美国石油封锁引发。这项封锁旨在向古巴政府施压，加剧了该岛老旧的苏联时代电力网的问题，该电网严重依赖石油进口。 虽然电力已经恢复，但这一情况凸显了古巴的脆弱性，并引发了迪亚斯-卡内尔总统对美国威胁的批评。然而，这场危机可能会加强与中国的关系。中国已经是一个重要的合作伙伴，其对古巴太阳能设备的出口大幅增加——从2023年到2025年增长了2240%，并且正在投资太阳能和风能发电项目。 尽管有这些支持，古巴在全面能源转型方面仍面临80亿至100亿美元的投资缺口。虽然中国提供了一个关键的联盟——可能从古巴的战略位置中受益——但其援助可能不足以完全摆脱古巴对脆弱燃料进口的依赖。
黑客新闻 新 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交 登录
古巴脆弱的电网找到了一个强大的新伙伴 (oilprice.com)
20点 由 thelastgallon 1小时前 | 隐藏 | 过去 | 收藏 | 讨论 帮助
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：
格尔德·法尔廷斯，证明了莫德尔猜想，荣获阿贝尔奖。
Gerd Faltings, who proved the Mordell conjecture, wins the Abel Prize
4 小时前
黑客新闻 新 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交 登录
格德·法尔廷斯，证明了莫德尔猜想，荣获阿贝尔奖 (scientificamerican.com)
10点 由 digital55 1小时前 | 隐藏 | 过去 | 收藏 | 1评论 帮助
nhatcher 29分钟前 | 下一个 [–]
哇！没想到过了这么多年。莫德尔猜想意味着一个特殊情况，即对于所有n>=4，费马方程只有有限个互质数解。
这让我想起了过去！回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：
弗兰克的公寓对讲系统因房东未续费蜂窝网络服务而停止工作，导致访客无法进入。我和朋友海泽尔调查后发现，该系统存在令人惊讶的漏洞。最初尝试通过路由器恢复控制失败，尽管找到了默认登录凭据和重置root密码的方法。 我们改变策略，采取“自下而上”的方法，找到连接到门锁电磁铁（解锁机制）的一根意外电缆。这使我们能够通过使用支持Wi-Fi的ESP32继电器板直接控制电磁铁，从而完全绕过该系统。 我们开发了基于Rust的固件，将该设备与弗兰克的Apple Home集成，实现远程门锁控制。克服ESP32的内存限制需要仔细配置并在配置完成后禁用蓝牙。最终的、不显眼的设置隐藏在一个现有的接线盒中，现在弗兰克可以通过手机解锁门锁，恢复了便利性和功能性。该项目凸显了建筑物出入门控制系统安全措施的松懈以及创造性解决问题的力量。
黑客新闻 新 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交 登录
秘密盒子：使用Matter谨慎地改装公寓对讲机 (jackhogan.me)
13 分，来自 swq115 20 分钟前 | 隐藏 | 过去 | 收藏 | 1 条评论 帮助
gnabgib 19 分钟前 [–]
来自作者 (希望你赞同)：https://news.ycombinator.com/item?id=47488686 回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：