ReasonGate 是一款可解释的、模型无关的安全网关,旨在保护大语言模型(LLM)应用免受提示词注入、间接攻击和数据泄露的威胁。与仅提供简单通过/失败分数的“黑盒”过滤器不同,ReasonGate 为每一项决策提供透明且可审计的证据,使其适用于安全团队及满足合规性要求。
该系统采用多层防御架构,包括:
* **标准化:** 消除零宽字符和同形异义字等欺骗性干扰。
* **注入检测:** 使用基于模式的规则和机器学习驱动的分类技术。
* **间接/RAG 扫描:** 在检索到的数据和工具输出到达模型之前进行检查。
* **泄露/金丝雀监控:** 监控输出内容,防止敏感数据和系统提示词泄露。
ReasonGate 拥有高性能、零依赖的 Python 核心,可在隔离环境中运行,并提供可选的企业级机器学习检测附加组件。每一次决策都会生成机器可读的审计记录,详细说明触发该操作的具体信号。作为“深度防御”层,ReasonGate 允许开发人员强制执行安全不变性,而无需依赖 LLM 内部的安全训练,从而帮助团队自信地交付安全、可投入生产的 AI 智能体。
这是《强化学习小书》(Little Book of Reinforcement Learning)的 GitHub 页面。本书是对强化学习的简要介绍,涵盖从基础知识到应用算法的内容。在这个仓库中,除了书本身,你还可以找到配套资料。具体如下:在 `algos/` 文件夹下,包含书中涵盖的从 MC 到 PPO 等不同算法的 PyTorch 实现;在 `supplementary/` 文件夹下,包含对书中简要提到的动态规划算法的详细解释和严谨证明。这是我于 2021 年编写的文档。未来该仓库还将持续补充更多资料。你可以在此处打印一份。本书版本信息:本书采用非商业性知识共享许可协议(CC BY-SA 4.0)发布。