新聞

Nvidia發布Open Agent Safety Platform，將AI代理的安全控制從軟體執行環境延伸到硬體層。平臺加入Sentry安全監控機制，透過BlueField-4資料處理器（DPU）監看代理活動，AI代理嘗試超出設定的權限範圍時，Sentry可隔離並停止代理，Nvidia表示相關動作可在毫秒內完成。

Open Agent Safety Platform包含OpenShell開源軟體與Sentry參考系統設計，OpenShell在AI代理工作的軟體執行環境設定安全界線，Sentry執行於BlueField-4，從代理所在主機之外監看代理行為，避免安全控制全部依賴代理所在的作業系統。

BlueField系列DPU主要處理伺服器的網路、儲存與安全工作，BlueField-4與伺服器CPU具有分離的運算環境。Nvidia利用該特性執行Sentry，AI代理試圖越過OpenShell設定的軟體界線時，BlueField-4上的Sentry可執行監控、隔離與停止。

Sentry建立在Nvidia DOCA軟體上，可檢查AI代理送出的要求與收到的回應、驗證代理身分，並控管代理對資料、工具、API及服務的存取。Sentry也能提供可驗證的監控資料。

OpenShell負責代理工作的軟體執行環境，提供代理執行時的安全界線與政策控制，把安全限制放在AI模型之外。OpenShell可搭配開放或封閉模型使用，Nvidia表示OpenShell可延伸支援Arm與Intel運算平臺。

Nvidia與企業軟體和AI業者整合相關技術，Anthropic的Claude Managed Agents可搭配OpenShell與BlueField，控制代理存取執行工作的沙箱環境，而Salesforce則把OpenShell整合至Slack，管理人員可查看代理活動與稽核事件，並核准或拒絕代理提出的額外權限要求。SAP也將OpenShell整合至Joule Studio執行環境。

OpenShell與相關開發資源已透過Nvidia開發者網站及GitHub提供，Sentry目前屬於Open Agent Safety Platform參考系統設計的一部分，主要利用BlueField-4建立獨立於AI代理工作環境的硬體監控與隔離層。