（台泰時報9月29日電）輝達（NVIDIA）28日宣布推出「開放式代理安全平台」（Open Agent Safety Platform），鎖定人工智慧代理（AI Agents）在企業環境中的安全管理，透過軟體執行環境與獨立硬體監控機制，限制代理可存取的資料、工具及系統，避免因操作偏離原始任務而造成資安風險。

輝達執行長黃仁勳（Jensen Huang）表示，企業不能讓AI代理在內部系統中自由行動，因此必須建立明確的執行邊界。新平台的核心概念，是把代理能「看到什麼、做什麼及與哪些系統互動」納入控制，而非只依賴模型本身的安全限制。

整套平台主要由2項技術組成。第一是開源安全執行環境「開放殼層」（OpenShell），可將AI代理放入受限制的沙盒中執行，管理檔案、網路、工具、程序及憑證等存取權限，並在代理運作期間持續執行既定政策。

第二是「哨兵」（Sentry），部署於輝達BlueField-4資料處理器，可在代理及主機系統之外獨立監控代理行為。若系統發現代理試圖突破既定軟體邊界，哨兵可在毫秒內隔離並停止相關操作，形成額外的硬體層防護。

輝達指出，代理式AI與一般聊天機器人不同，除了產生文字，也可能自行呼叫工具、撰寫程式、存取資料庫及與外部服務互動，因此僅靠模型層防護，未必足以控制代理實際能執行的動作。OpenShell則從執行環境直接限制權限，讓企業可採取零信任架構管理代理。

平台部分軟體採開源方式提供，OpenShell可在輝達Vera中央處理器上運作，也能延伸支援安謀（Arm）及英特爾（Intel）等第三方運算平台。輝達將整體方案定位為參考設計，讓合作夥伴依自身需求整合成企業產品。

輝達公布的合作生態系涵蓋安謀、思科（Cisco）、戴爾科技（Dell Technologies）、慧與科技（HPE）、微軟（Microsoft）、英特爾等業者，並與人工智慧公司Anthropic合作，將其受管理代理服務與OpenShell及BlueField整合，增加企業部署AI代理時的安全控制層。

輝達表示，隨AI代理逐步承擔企業內部更多工作，安全設計須從模型擴大至執行環境、硬體及基礎設施，讓企業在導入自動化代理時，仍能掌握其權限、行為及資料存取範圍。

圖片來源：Bangkok Biz