一个构建使用Broadcom PEX88096 PCIe交换机,位于一个x16插槽之后,连接四块32 GB AMD R9700和两块RTX 3090,以实现点对点传输。ROCm需要每个R9700的完整32 GB通过Resizable BAR映射。BIOS无法映射六个32 GB BAR,且Linux 7.0的桥接尺寸估算会低估空间,因为它将子设备尺寸相加而未考虑门铃BAR周围的对齐间隙。作者创建了gpu-rebar-layout,一个initramfs内核模块,它将R9700 BAR尺寸设置为32 GB,移除/重新扫描交换机根端口,并填充BAR对齐,使每个窗口都适合。这使得所有四块R9700都能获得32 GB BAR,而即将推出的内核补丁修复了尺寸错误,但仍需要调整尺寸/重新扫描(pad=0)。设置完成后,amdgpu识别完整BAR,点对点传输每对达到14.0 GB/s,环形达到54.7 GB/s。建议:搜索邮件列表,在驱动加载前调整尺寸/重新扫描,避免重新扫描已加载的GPU,并检查小BAR或休眠问题。
smolmaxxing 探索在性能不足、空闲的设备上运行大语言模型。在小米电视盒子 S(第三代)——Amlogic S7D、约 1 GB 可用内存、未 root——上,它运行从 260K 到 16B 参数的模型,Qwen3.5-0.8B 达到 16.8 令牌/秒,2B 为 7.7,8B MoE 为 7.2,dense 1-bit 8B 为 5.2,16B MoE 为 5.1。2013 年的 iPad Air 运行 1.7B 模型可达 24–26 令牌/秒,4B 约 10,最高 16B 的 MoE 模型为 2.6–4.5 令牌/秒。性能提升来自自定义 ARM 内核(Q2_K 重打包、1-bit 查表、融合 DeltaNet)、内存技巧(裁剪词汇表头部、无头模式、flash 重打包缓存),以及基于 flash 的权重流式加载(专家分页、缓存感知路由、预取)。关键发现:对于 2B 以上模型,瓶颈是 flash 带宽而非 CPU,因此 MoE 有效;且按字节计,更大的模型并不总是更好。所有声明均在真实硬件上测量。MIT 许可。
十一年前,叙述者看到一个人的手臂或包卡在正在关闭的门里,担心他失去手,拉了火车的紧急制动。火车停了,他把手臂拉进车内,而包留在外面。后来,叙述者反思现实道德困境与思想实验有何不同:风险不确定且低于经典电车难题,最难的是判断现实,而不是选择是否行动。延误线路总共耗费约4.3年的清醒时间,而另一种可能也会导致延误加伤害。这次事件还显示了旁观者冷漠、难以把帮助导向一个人,以及可能的“表达偏差”——更难传达的“没问题”观点输给了紧急拉闸。叙述者指出不确定性:更靠近的人说只有包卡住了。他们还提到“单方主义诅咒”,即一人不同的判断导致影响所有人的行动。总体而言,真正的道德需要在不确定和时间压力下做出稳健决定,而非理想化推理。
DLES(Daily Logic Exercises)是一个大型开源合集,收录了 dles.gg 上 1,124 个每日逻辑游戏,按最新优先排列。它涵盖多种谜题类型——文字、地理、问答、逻辑、体育等——机制多样,提供每日挑战;用户可提交缺失的游戏。