**mnemo** 是一个“本地优先”的记忆层,旨在为大语言模型(LLM)提供持久、长期的记忆能力。与在每次对话后都会重置的标准 LLM 不同,mnemo 作为一个辅助服务运行,从输入文本中提取命名实体和关系,并将它们存储在基于 SQLite 的持久化知识图谱中。
主要功能包括:
* **智能检索:** 使用 6 阶段流水线(包括全文搜索和图遍历),在 50 毫秒内将高度相关的上下文注入到未来的 LLM 提示词中。
* **隐私至上:** 完全在本地运行,零云端依赖;以单个静态二进制文件的形式运行。
* **灵活集成:** 兼容 Ollama、OpenAI、Anthropic 或任何符合 OpenAI 标准的 API。
* **开发友好:** 提供 REST API、CLI 工具和 Python SDK,方便应用程序无缝集成。
无论是通过 Docker 部署还是作为独立二进制文件运行,mnemo 都能自动化管理结构化知识,让您的 AI 应用程序在跨会话时“记住”用户、概念和关系,且无需牺牲隐私或性能。