代理式上下文管理：作为架构问题的记忆与成本

代理式上下文管理：作为架构问题的记忆与成本
Agentic Context Management: Memory and Cost as Architecture Problems

arXivLabs 是一个让合作者能直接在我们的网站上开发并分享 arXiv 新功能的框架。与 arXivLabs 合作的个人和组织都认同并接受我们对于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于坚守这些价值观，并仅与遵循这些准则的合作伙伴开展合作。您有为 arXiv 社区增值的项目构想吗？了解更多关于 arXivLabs 的信息。

文中讨论了“智能体上下文管理”（Agentic Context Management，简称 ACM），这是一个旨在解决基于大模型的智能体核心工程挑战的框架，即如何高效管理上下文窗口内的信息。文章指出，目前大模型的大多数局限性本质上都是“上下文问题”。所提出的解决方案包含两大核心策略：**带有验证的压缩**（用于总结和提炼信息）以及**预测性获取**（仅检索必要数据）。通过优先考虑“记忆工程”而非仅仅扩展系统规模，开发者能够在释放智能体潜力的同时，降低运营成本。讨论还涉及了这些技术的实际应用，例如 Synap 工具。用户质疑其在处理大型文档数据集时相较于传统 RAG（检索增强生成）的有效性，以及在本地部署的可行性。总体而言，该讨论表明，管理进入智能体上下文的内容是现代智能体架构中最关键的障碍。

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

代理式上下文管理：作为架构问题的记忆与成本 Agentic Context Management: Memory and Cost as Architecture Problems

代理式上下文管理：作为架构问题的记忆与成本
Agentic Context Management: Memory and Cost as Architecture Problems