Zero-Mem：面向大语言模型智能体的零 Token 内存操作

Zero-Mem：面向大语言模型智能体的零 Token 内存操作
Zero-Mem: Zero-Token Memory Operations for LLM Agents

arXivLabs 是一个允许合作者直接在我们的网站上开发和共享 arXiv 新功能的框架。与 arXivLabs 合作的个人和组织都认同并接受我们关于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于维护这些价值观，并仅与遵循这些价值观的合作伙伴进行合作。如果您有能为 arXiv 社区创造价值的项目想法，欢迎了解更多关于 arXivLabs 的信息。

Hacker News 的讨论聚焦于“Zero-Mem”，这篇研究论文提出了一种无需传统基于 Token 的检索开销来管理大语言模型（LLM）智能体记忆的方法。该核心创新在于利用 LLM 的注意力机制直接从 KV Cache 中识别并检索相关信息，从而绕过了单独生成基于摘要索引的需求。参与者指出，这种方法与近期出现的本地实现方案（如 Attemory）类似，即将检索和预测视为统一的任务。评论者和开发者强调，虽然计算时间减少了 57.6%，这一成果令人印象深刻，但“零 Token”的标签略有误导性，因为它涉及了编码器计算和索引维护方面的权衡。大家的一个主要共识是，业界正从容易掩盖证据的“生成式重写”转向保留原始交互痕迹。这提高了可审计性，并确保了回答能够基于原始数据。然而，专家建议，未来的基准测试必须解决这些系统如何处理冲突信息、事实的时间演变，以及长期运行的智能体中“陈旧”记忆的风险。总的来说，这次讨论反映了行业对持久化 AI 智能体高效、高保真记忆管理的日益关注。

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

Zero-Mem：面向大语言模型智能体的零 Token 内存操作 Zero-Mem: Zero-Token Memory Operations for LLM Agents

Zero-Mem：面向大语言模型智能体的零 Token 内存操作
Zero-Mem: Zero-Token Memory Operations for LLM Agents