每日HackerNews RSS

在32GB Mac上，通过流式传输NVMe中的张量来运行1T参数的模型。 Hypura – A storage-tier-aware LLM inference scheduler for Apple Silicon 3 天前

## Hypura：在Mac上运行大型语言模型 Hypura 是一款专为 Apple Silicon Mac 设计的 LLM 推理调度器，它能够通过智能地将张量分配到 GPU、RAM 和 NVMe 存储器中，执行超过可用 RAM 的模型。它克服了在使用像 llama.cpp 这样的工具尝试加载过大的模型（例如在 32GB Mac Mini 上加载 31GB Mixtral）时遇到的崩溃问题。 Hypura 会分析硬件并优化张量放置，优先将经常访问的数据（范数、嵌入）放在 GPU 上。对于 Mixtral 等混合专家 (MoE) 模型，它仅从 NVMe 流式传输活跃的专家权重，将 I/O 减少 75%，并以 99.5% 的命中率使用神经元缓存。像 Llama 70B 这样的密集模型，也为 FFN 层采用了类似的流式传输方法。 该系统会根据可用内存自动调整预取和池大小，无需手动调整。Hypura 对于能够放入内存的模型没有额外开销，并为更大的模型提供可用的体验，甚至可以达到 Mixtral 2.2 tok/s 和 Llama 70B 0.3 tok/s 的速度。它通过 Cargo 提供，并包含一个与 Ollama 兼容的 API，以便与 OpenClaw 等工具轻松集成。重要的是，Hypura 主要*读取* SSD，从而最大限度地减少磨损。

## Hypura：Apple Silicon LLM 推理调度器 - 摘要 Hypura 是一种新的调度器，旨在通过智能利用 NVMe 存储来提升 Apple Silicon 上的 LLM 推理性能。它解决了 RAM 容量有限的问题，通过从磁盘流式传输模型权重，旨在实现运行比通常能放入内存更大的模型。 讨论集中在与现有方法（如 `llama.cpp` 的 mmap 功能）的性能比较，以及访问模式（顺序 vs. 随机）对 NVMe 通量（特别是对于混合专家 (MoE) 模型）的影响。虽然运行 1T 参数的模型是可行的，但目前速度太慢，无法进行交互式使用。重点正在转向优化较小 MoE 模型的性能，以实现每秒多个 token 的速度。 用户建议对 Qwen 3.5 和 Kimi 等最新模型进行基准测试，并强调 Apple Silicon（Pro、Max、Ultra）内的带宽等级对于实现最佳速度的重要性。人们对潜在的 NVMe 磨损表示担忧，但已澄清 Hypura 主要是一种读取工作负载。该项目旨在通过基于 Transformer 层执行的确定性特性来预取数据，从而超越操作系统分页。

查看详情

WolfGuard：带有FIPS 140-3加密的WireGuard WolfGuard: WireGuard with FIPS 140-3 cryptography 3 天前

## WolfGuard：符合FIPS标准的WireGuard替代方案 WolfGuard是WireGuard的直接替代品，通过wolfSSL库提供FIPS 140-2合规性。它由`wolfguard.ko`内核模块和`wg-fips`配置工具组成，两者都依赖于wolfSSL组件。安装过程会无缝地用符号链接（`wg`到`wg-fips`，`wg-quick`到`wg-fips-quick`）替换WireGuard二进制文件，同时保留现有配置（移动到`/etc/wolfguard`）。 WolfGuard将WireGuard的密码学映射到FIPS批准的算法：ECDH (Curve25519) 变为 SECP256R1，XChaCha20-Poly1305 变为 AES-256-GCM，Blake2s 变为 SHA2-256。性能与启用Intel CPU加速（`--enable-intelasm`）的加速WireGuard相当或超过，否则保持可比。 构建WolfGuard涉及编译wolfSSL和内核模块。FIPS认证构建需要单独的源代码存档和一个特定的`--enable-fips`标志。 认证和非认证构建是可互操作的，但与标准的WireGuard不兼容。 针对两种情况都提供了详细的构建说明，包括FIPS构建的内核模块哈希验证。 通过更新配置路径并使用`wg-fips`重新生成密钥，可以使用WolfGuard来使用现有的WireGuard playbook。

## WolfGuard：带有FIPS 140-3密码学的WireGuard - 摘要 WolfSSL发布了“WolfGuard”，它是WireGuard的一个分支，实现了FIPS 140-3认证的密码学。这解决了日益增长的FIPS合规性需求，尤其是在美国军政府部门，特别是小型企业应对CMMC要求。 讨论强调了一个常见的争论：FIPS标准往往落后于当前的密码学最佳实践，并且实施起来可能更复杂。虽然ChaCha20-Poly1305和Curve25519等算法更简单高效，但FIPS认证对于某些合规性需求是必要的。 WolfGuard用WireGuard首选的算法（如ChaCha20）替换为FIPS批准的替代算法（如AES-GCM）。人们对这种切换的潜在安全影响表示担忧，并提到使用更复杂的密码会增加实施错误的风险。另一些人指出，现代FIPS并不像以前那样过时。 最终，WolfGuard为需要FIPS合规VPN解决方案的组织提供了一个开源选项，即使这意味着牺牲一些性能或简单性。

查看详情

Gemini 现在可以原生嵌入视频，所以我构建了亚秒级视频搜索。 Show HN: Gemini can now natively embed video, so I built sub-second video search 3 天前

## SentrySearch：用于行车记录仪画面的语义搜索 SentrySearch 能够使用自然语言快速搜索行车记录仪视频。它的工作原理是将视频分割成片段，使用 Google 的 Gemini Embedding 模型将每个片段嵌入为视频数据，并将这些嵌入存储在本地 ChromaDB 数据库中。 用户只需输入查询（例如“红卡车闯红灯”），查询也会被嵌入，然后与视频嵌入进行匹配。最相关的片段会自动剪辑并保存为剪辑。 **主要特点：** * **直接视频嵌入：** 无需转录或字幕 – Gemini 直接处理视频像素。 * **成本优化：** 预处理（降至 480p/5fps）和静帧跳过可降低 API 成本（索引 1 小时约 2.50 美元）。 * **易于设置：** 克隆 GitHub 仓库 ([https://github.com/ssrajadh/sentrysearch](https://github.com/ssrajadh/sentrysearch))，安装依赖项，并提供 Gemini API 密钥。 * **可定制：** 可以调整片段时长、重叠和预处理。 目前处于预览阶段，SentrySearch 支持 MP4 视频，并依赖启发式方法进行静帧检测。未来的改进旨在实现更智能的片段划分，并解决潜在的 API 变更。

## Gemini 与亚秒级视频搜索：摘要 一位开发者（sohamrj）构建了一个命令行工具，利用 Google 的 Gemini Embedding 2 实现对视频素材的亚秒级搜索。Gemini 现在可以直接将原始视频转换为 768 维向量，绕过传统的转录或帧字幕等方法。这使得自然语言查询（例如“绿车超车”）可以直接与视频内容进行比较。 该工具将素材索引到 ChromaDB，然后使用自然语言搜索自动剪辑匹配的片段。初步测试，使用行车记录仪素材，显示索引成本约为每小时 2.50 美元，通过跳过静态帧可以降低成本。 讨论强调了其潜力与担忧。虽然为安全、行车记录仪回顾以及潜在的内容审核等应用提供了强大的搜索能力，但该技术也引发了重大的隐私问题。担忧集中在潜在的广泛监控上，人工智能不断索引和分析视频流，可能因特定个人或活动而触发。开发者承认这些担忧，并希望通过开源、本地模型来解决隐私问题。Gemini 的替代方案也在探索中。

查看详情

苹果业务 Apple Business 3 天前

## Apple Business：面向企业的新型一体化平台 Apple 宣布推出 **Apple Business**，将于 4 月 14 日在全球 200 多个国家和地区上线，旨在简化各规模公司的业务管理。该平台将关键 Apple 服务——包括设备管理、商业电子邮件和日历，以及客户拓展——整合到一个安全统一的系统中。 主要功能包括 **内置移动设备管理 (MDM)**，并提供“蓝图”以便于设备设置和安全保障，以及使用 **自定义域名** 进行专业沟通的能力。企业还可以通过 **Apple 地图广告**（今夏在美国和加拿大推出）来提升其可见性，广告将出现在搜索结果和推荐地点中。 Apple Business 还通过工具简化品牌管理，以控制企业在 Apple 服务中的展示方式。它提供升级的 iCloud 存储空间和 AppleCare+ for Business 选项，以及配套的员工应用程序。现有的 Apple Business Connect、Essentials 和 Manager 用户将自动迁移，Essentials 订阅将于 4 月 14 日停止。该服务免费使用，并提供可选的付费升级。

## Apple商业发布总结 Apple将于4月14日发布“Apple Business”，作为一项免费服务在美国和200多个国家/地区推出，整合了Apple Business Connect、Essentials和Manager。 旨在为小型企业提供一套全面的工具，包括MDM、电子邮件、日历，以及可能提供的硬件折扣（MacBook起价499美元，享受教育优惠）。 讨论的重点在于这是否是一项永久免费服务，还是一次推广活动。 用户质疑账户管理，特别是更改公司详细信息，一些人认为可能需要创建新账户。 许多人认为这对微软在商业领域的统治地位构成了挑战（特别是Microsoft 365和Intune），尤其是在员工少于50人的公司中。 然而，一些人指出Apple在办公软件套件方面的历史弱点，以及Google Workspace和Notion等替代方案的日益普及。 此次发布也引发了对Jamf（一种流行的企业MDM）未来的问题，以及Apple的产品是否足以满足需要专门支持的大型组织。 也有人担心会出现类似于Apple Maps和App Store的广告“劣化”现象。

查看详情

测试 Swift C 兼容性与 Raylib (+WASM) Testing the Swift C compatibility with Raylib (+WASM) 3 天前

## Swift 与 Raylib：简易 C 互操作演示 尽管像 Ladybird 浏览器 Swift 采用遭遇挫折，作者展示了 Swift 的强大和易用性，尤其是在与 C/C++ 库交互时。他们挑战了对 Swift 生态系统的批评，在无需手动 FFI 绑定情况下，为 macOS 和 Web (使用 WASI) 构建了一个基本的 Raylib 游戏。 Swift 利用 Clang 导入器将 C 头文件无缝转换为 Swift 可理解的模块。这允许直接在 Swift 项目中包含 C 头文件和静态库，该项目由 Swift 包管理器管理。作者的项目结构将 Raylib 的 C 代码（每个平台的头文件和库）与其自己的 Swift 代码分开。 为 WASM 构建需要更多努力，包括一个小的 C 存根来处理浏览器环境中的终端请求，并利用 `emcc` 进行最终编译。一个关键收获是 Swift 能够以最少的代码更改构建 Web，并借助 `ASYNCIFY` 等工具来防止浏览器冻结。 最终，作者发现这个过程“简单”，强调了 Swift 在游戏开发和其他需要 C/C++ 集成的项目中的潜力。完整的项目可在 GitHub 上获取。

对不起。

查看详情

正题，反题，合题 Hypothesis, Antithesis, synthesis 3 天前

## 黑格尔：适用于每种语言的基于属性的测试 Hypothesis（一个流行的 Python 基于属性的测试库）的创建者发布了 **Hegel**，这是一个新的基于属性的测试库系列，旨在为多种语言带来 Hypothesis 质量的测试。其核心思想是利用 Hypothesis 强大的数据生成和缩小能力，通过集中运行 Hypothesis 并提供特定于语言的客户端库来实现。 目前适用于 **Rust**（**Go** 即将推出，C++、OCaml 和 TypeScript 的版本正在开发中），Hegel 允许开发者定义代码应该保持的*属性*——例如“解析分数不应崩溃”——而不是编写大量的特定测试用例。这种方法有效地创建了无数的测试，揭示了由于意外输入（例如“0/0”）或复杂逻辑中的错误而导致的崩溃等错误。 Hegel 特别适用于发现常见的错误类型，例如忽略零值或结构不变性问题。它还与 **Antithesis**（一个错误查找平台）集成，以增强测试能力。虽然目前需要 Python，但长期目标是减少这种依赖并提高性能。该项目还包括利用 AI 代理*编写*基于属性的测试的工具，从而降低了入门门槛。 Hegel 目前处于“开发者预览”阶段，但承诺未来基于属性的强大测试将适用于更广泛的编程语言。

## 黑格尔：Rust 中的基于属性的测试 – 摘要 该文章宣布发布 Hegel，一个为 Rust 设计的基于属性的测试 (PBT) 库，灵感来自 Python 的 Hypothesis，旨在将其优势带到 Rust 生态系统。其核心思想是定义代码*应该*满足的属性，Hegel 会自动生成并测试各种输入来验证这些属性。 与现有的 Rust PBT 库（如 Proptest）的主要区别在于，Hegel 具有更灵活的生成器语言、更强大的缩小功能（确保生成的测试用例保持有效）以及更好的测试重放能力。开发者承认 Proptest 目前是可行的，但相信 Hegel 的方法具有长期优势。 该项目建立在通用的基于属性的测试协议之上，并设计为可扩展到其他语言。一个关键目标是帮助测试 AI 生成的代码，在 AI 生成代码中，全面的测试至关重要。 讨论强调了将现有测试从 Proptest 移植的挑战、可读测试对于 AI 辅助开发的重要性，以及关于黑格尔辩证法的本质的持续争论（库的名称是对黑格尔哲学的幽默引用，尽管并不完全准确）。作者欢迎反馈，并鼓励用户尝试 Hegel 并分享他们的经验。

查看详情

没有条款。没有条件。 No Terms. No Conditions 3 天前

## notermsnoconditions.com - 条款摘要 本网站运营基于极其简单的条款：您可以将其用于任何合法目的，在其内容基础上进行构建，并自由引用。但它**绝对没有任何保证或义务**。 本网站不提供关于准确性、可用性或适用性的任何保证。访问不受限制，内容不经过审查或支持。用户对其使用本网站所产生的行为和创作负全部责任。 重要的是，这些条款是*全部*协议——没有隐藏条款、附加条款或暗示条件。创建者不提供任何支持、服务承诺或保存承诺。 欢迎您在其他地方重用这些条款，但鼓励您谨慎使用。本质上，请自行承担风险并承担全部责任。

## 黑客新闻讨论：“无条款，无条件”网站 一场黑客新闻的讨论围绕着一个网站（[notermsnoconditions.com](https://notermsnoconditions.com)）展开，该网站讽刺性地宣称“无条款和条件”，同时列出了诸如“仅用于合法目的”和“无担保”之类的免责声明。用户指出，这些免责声明*本身*就是条款和条件，使得该网站的前提变得多余，因为法律无论如何都会自动适用。 对话扩展到更广泛的CYA（保护自己）条款问题，尤其是在金融领域，以及它们的有限有效性。 许多评论员强调，这些条款并不能阻止非法活动，而是提供法律辩护，甚至可能*鼓励*非法行为者记录他们的意图以避免指控。 讨论还涉及版权法，“无许可”声明对代码的歧义，以及依赖默许许可的潜在法律风险。 一些人认为该网站是对法律术语荒谬性的评论，而另一些人则质疑它的实际用处。 最终，该主题探讨了试图规避法律约束与即使在看似简单的场景中，固有需要法律保护之间的紧张关系。 许多用户注意到该网站的设计和语言强烈暗示它是由LLM生成的。

查看详情

检测到伊朗谈判前夕的重大内幕交易石油事件。 Major insider trading on oil detected ahead of Iran talks 3 天前

请启用 JavaScript 并禁用任何广告拦截器。

查看详情

拉瓜迪亚机场飞行员在致命跑道撞击事故发生前几个月就提出了安全警报。 LaGuardia pilots raised safety alarms months before deadly runway crash 3 天前

## 拉瓜迪亚机场安全隐患先于致命碰撞 在拉瓜迪亚机场最近一次碰撞导致两名飞行员死亡、41人受伤的几个月前，飞行员曾向美国宇航局提交多份安全报告，详细记录了险些相撞事件和对空中交通管制的担忧。报告强调，空中管制员压力越来越大，正在突破运营限制，尤其是在恶劣天气期间，这与2025年发生的致命事故相似。飞行员报告称，由于过早的起飞许可和关于飞机间距的不充分指导，发生了多次险些相撞的情况，其中一名飞行员通过推迟降落险险避免了一起潜在事故。 这些担忧与对加拿大航空快运航班和消防车之间碰撞事件的调查同时发生。初步调查结果显示，承认之前有过“紧急情况”的管制员错误地允许消防车穿越跑道。这起事件引发了对美国机场系统性压力的担忧，这些压力源于过去的人员削减、老化的设备以及最近的政府停摆对TSA人员配置的影响，导致了严重的延误——甚至阻碍了调查人员进入坠机现场。 之前的多起事件，包括滑行道碰撞和险些相撞，进一步凸显了拉瓜迪亚机场日益增长的安全隐患。

查看详情

```io_uring, libaio 在不同 Linux 内核中的性能，以及意外的 IOMMU 陷阱``` io_uring, libaio performance across Linux kernels and an unexpected IOMMU trap 3 天前

启用 JavaScript 和 Cookie 以继续。

对不起。

查看详情

更多