## Google Gemma 4 在 iPhone 上本地运行，但存在限制 Google 的 Gemma 4 LLM 现在可以在 iPhone 上原生运行，提供完整的离线 AI 推理。然而，Hacker News 上的讨论显示存在性能限制。虽然令人印象深刻，但目前的推理依赖于 GPU 而不是苹果的神经引擎 (ANE)，导致电池消耗更快和散热限制。 专家认为，Google 可能由于难以为苹果的专有硬件编译自定义注意力内核而绕过了 ANE。ANE 的架构是在 LLM 出现之前设计的，并不完全适合这些模型，而且 LLM 生态系统主要倾向于 CPU/GPU 执行。据报道，苹果正在开发新的 Core AI 框架，以更好地支持 LLM，可能解决这些问题。 用户报告了不同的体验，有些人发现该模型对图像描述和代码生成等任务很有用，而另一些人则注意到连贯性问题。运行更大模型的可行性受到 iPhone RAM 和散热能力的限制。人们也对报道这些进展的文章质量表示担忧，许多人怀疑是 AI 生成的内容。