来自 Redis 的创建者；使用 ds4 在本地运行大语言模型

来自 Redis 的创建者；使用 ds4 在本地运行大语言模型
From the creator of Redis; run LLM locally with ds4

DS4 · 本地前沿推理 DwarfStar 4 是一款面向高内存 Mac、CUDA 和 ROCm 机器的精简 C 推理引擎。它支持 DeepSeek V4 和 V4.1 Flash、GLM 5.x 以及 Qwen3.8 Flash Next，并在一个技术栈中集成文本与视觉模型、本地 API、CLI 和原生智能体。支持：DEEPSEEK V4 / V4.1 + GLM 5.x + QWEN3.8 · MIT 许可证 · C / METAL / CUDA / ROCM · QWEN 支持 64GB

Hacker News 最新 | 往期 | 评论 | 提问 | 展示 | 职位 | 提交登录由 Redis 的创造者推出；使用 ds4 在本地运行 LLM （ dwarfstar.sh ） 19 分由 fibo 提交 1 小时前 | 隐藏 | 往期 | 收藏 | 1 条评论帮助 doctorpangloss 46 分钟前 [–] 问题在于 dsv4 的检查点，因此量化后的效果不太好。回复考虑申请 YC 的 2027 年冬季批次！申请截止日期为 11 月 2 日。指南 | 常见问题 | 列表 | API | 安全 | 法律声明 | 申请加入 YC | 联系我们搜索：

DS4 · LOCAL FRONTIER INFERENCE

DwarfStar 4 is a narrow C inference engine for high-memory Mac, CUDA and ROCm machines. It supports DeepSeek V4 and V4.1 Flash, GLM 5.x and Qwen3.8 Flash Next, with text and vision models, local APIs, a CLI and a native agent in one stack.

SUPPORTED: DEEPSEEK V4 / V4.1 + GLM 5.x + QWEN3.8 · MIT LICENSE · C / METAL / CUDA / ROCM · QWEN ON 64GB

来自 Redis 的创建者；使用 ds4 在本地运行大语言模型 From the creator of Redis; run LLM locally with ds4

来自 Redis 的创建者；使用 ds4 在本地运行大语言模型
From the creator of Redis; run LLM locally with ds4