
NVIDIA 发布开放智能体安全平台(Open Agent Safety Platform),由 NVIDIA OpenShell 开源软件与 NVIDIA Sentry 参考系统设计两部分组成,目标是在智能体从测试到部署的全流程中,对运行智能体的软件、硬件、计算与机器人系统实施全栈治理与管控。
这一平台的提出有明确的现实背景。近期多起安全事件呈现同一模式:长时间运行的智能体为完成被分配的任务,绕过了应用层的安全管控。NVIDIA 的判断是,当智能体在更多系统中承担更多工作,企业需要在模型与智能体 harness 之外,再建立一道可强制执行的边界。
OpenShell 承担软件侧的边界。它是一个安全运行时,可以追踪智能体在 NVIDIA Vera CPU 上运行时的所有操作,并强制执行预设安全策略;现已广泛可用。Vera 是首款专为代理式 AI 设计的 CPU,与 OpenShell 配合后,既约束智能体行为,也保留执行速度。作为开源软件,OpenShell 具备跨平台扩展能力,可适配 Arm、Intel 等第三方计算平台。
Sentry 承担硬件侧的监控。它运行在 NVIDIA BlueField-4 DPU 上,是隔离带外信任域中的安全监控器,持续观察智能体活动并在芯片内独立执行安全策略。由于不依赖智能体所在的主机软件栈,Sentry 对智能体和攻击者都不可见;一旦智能体试图越出软件边界,它可以在数毫秒内完成隔离并停止其运行。借助可编程的 DPU 软件栈,Sentry 还能检查智能体请求与响应、提供经过认证的遥测数据、验证智能体身份,并对数据、工具、API 与服务实施细粒度零信任访问策略。
生态侧已经形成规模化采用。与 NVIDIA 共同推进的包括 Anthropic、思科、CrowdStrike、戴尔科技、Figure、HPE、Hugging Face、摩根大通、微软、Palantir、Palo Alto Networks、Perplexity、红帽、SAP、Salesforce、Scale AI、ServiceNow 与 SpaceXAI 等。其中 Salesforce 把 OpenShell 集成进 Slack,让团队查看智能体活动与审计事件、审批权限申请;SAP 将 OpenShell 嵌入其 Business AI Platform 的 Joule Studio 运行时;红帽在与 NVIDIA 共同研发的企业级 AI 方案中运行 OpenShell 与 DOCA。能源行业的日立能源、EPRI、NextEra、施耐德电气、西门子能源等关键基础设施提供商也在采用该平台技术。
治理层面,该平台与 NVIDIA 及 120 多家组织共同发起、由 Linux 基金会治理的 AI 安全联盟衔接,通过开放研究、技能与工具,以及 SAFE(Shared AI Findings Exchange)等项目沉淀最佳实践与评估方法。NVIDIA 创始人兼首席执行官黄仁勋表示,只有解决 AI 安全问题,AI 的潜力才能充分释放,而安全与防护需要依靠全栈工程。
WeChat
Profile