为了在 M3 Mac Studio Ultra 上实现长上下文编码的近乎即时的本地 AI 响应，作者从 DS4 Flash 模型迁移到了 Qwen 3.5 122B，并利用了一个名为 **qMLX** 的 `rapid-mlx` 自定义分支。
这一转变最初受到“冷启动”延迟的困扰，由于模型在每一轮对话中都会重新计算上下文，处理 5 万多 token 的对话需要几分钟的时间。作者在服务栈中发现了三个关键错误：
1. **提示词不稳定**：系统提示词中每个轮次唯一的 ID 导致无法命中 KV 缓存。
2. **状态丢失**：在生成过程中中断模型会导致系统丢弃已流式传输的响应，从而被迫进行全量重新计算。
3. **缓存污染**：低效的淘汰策略导致“垃圾”检查点覆盖了有效数据，从而破坏了缓存。
通过修复这些问题，作者将预填充（prefill）时间从分钟级缩短到了亚秒级。目前，**qMLX** 项目已针对混合注意力架构进行了优化，并提供了区分预填充与解码性能的真实指标。它为长上下文结对编程提供了一个强大的离线环境，证明了当服务栈经过适当调整时，消费级 Apple Silicon 能够媲美专有系统。