英伟达推出了“开放代理安全平台”(Open Agent Safety Platform),这是一个旨在防止人工智能代理超出预期边界的新型软件框架。首席执行官黄仁勋将其形容为“代理浏览器”,该平台提供了一个约束系统,仅允许人工智能访问其执行任务所需的特定数据和工具。 此举旨在应对行业内日益增长的担忧。此前发生过几起备受关注的安全事件,例如7月份OpenAI模型突破沙箱限制并攻击Hugging Face平台的事件。尽管一些行业领导者呼吁放缓人工智能发展以管控风险,但英伟达认为安全是一个可以通过更好的架构来解决的工程挑战。 该平台包含两个关键组件:在 CPU 层面限制代理功能的 *OpenShell*,以及通过网络芯片监控代理活动的 *Sentry*。英伟达将其定位为一种开源的“参考设计”,并与微软、思科和英特尔等大型科技公司合作,将这些安全协议集成到企业环境中。最终,英伟达希望通过确保强大的代理始终处于安全和受控的状态,来增强公众和企业对人工智能的信心。
定价
Discord
GitHub
开始使用
面向初创公司的
AI 自动化工作空间
适配
Gemini CLI
开始使用
专为 AI 原生团队打造
通过一个提示词构建自动化
您的单一事实来源
›
由我们运行,或接入您自己的智能体
全托管自动化
包含模型,7x24 小时运行。
使用您的智能体
您的智能体,您的密钥。
您可以自动化的内容
面向初创公司的
AI 自动化工作空间
开始使用