英伟达发布AI智能体安全平台 可实时隔离异常智能体

驱动中国9月28日消息，英伟达发布开放式AI智能体安全平台NVIDIA Open Agent Safety Platform，可对AI智能体、智能体硬件和机器人系统进行全栈治理与控制。

该平台包含英伟达OpenShell安全软件，可对运行在CPU上的AI智能体设定边界，并支持开源与闭源模型。官方新闻稿显示，该工具在Vera平台的性能占用非常低。OpenShell与Vera结合后，可让AI智能体在尽快完成工作的同时保证安全。OpenShell作为开源软件可支持第三方平台，包括Arm和英特尔产品。

英伟达同时推出看门狗系统NVIDIA Sentry，可持续监控AI智能体行为。若AI智能体试图突破软件限制，Sentry可在毫秒时间内将其隔离并停止运行。Sentry运行在BlueField-4 DPU上，可持续监控AI智能体活动，并在芯片层面独立执行安全策略。该系统将威胁检测、基于硬件的智能体治理与执行以及数据访问保护相结合，通过独立于智能体和攻击者、能够实时响应的带外信任域实现上述功能。

此外，Anthropic、SpaceX和Scale AI等公司已与英伟达合作，将OpenShell用于其AI模型和智能体。