关于“浏览器中运行 1-bit 大语言模型”的 Hacker News 讨论，突显了极度模型量化技术的潜力与当前局限。虽然通过 WebGPU 在本地运行大模型（如 27B 参数版本）具有显著的隐私和安全优势，但用户反映其性能表现极不稳定。 许多参与者指出，较小的模型（特别是压缩至 1-bit 的模型）常出现“病态”行为，例如重复毫无意义的短语，或无法通过“洗车”提示词之类的简单逻辑测试。尽管有人认为这些模型旨在用于路由和工具调用，而非复杂的推理，但批评者指出，糟糕的基础推理能力甚至削弱了它们在这些次要任务上的实用性。 来自社区的技术反馈表明，尽管推理速度因硬件而异（例如 M 系列 MacBook 与 Linux/Windows GPU 之间的差异），但软件生态系统尚处于成熟阶段。开发者们正积极通过自定义引擎和 GGUF 支持来提升其可靠性。总之，共识是：虽然在浏览器中运行高参数模型是一项令人印象深刻的技术成就，但目前的 1-bit 实现仍处于实验阶段，难以在通用应用中提供可用的结果。