Gecko Robotics 與 NVIDIA 合作，整合 AI 代理的安全性和控制

Gecko Robotics 正在其檢測機器人艦隊中利用 NVIDIA 最新的智慧體 AI 安全層。來源：Gecko Robotics

NVIDIA 公司今天釋出了其開放智慧體安全平臺（Open Agent Safety Platform），其中包括開源的 OpenShell 軟體和 Sentry 參考系統設計。這些工具旨在增強執行 AI 智慧體的機器人在硬體、計算和軟體層面上的治理與控制。Gecko Robotics Inc. 是與 NVIDIA 技術合作的 100 多家組織之一。

在 OpenAI 的智慧體繞過應用層控制並攻擊 Hugging Face 的近期事件之後，AI 和機器人領域的開發人員加強了建立可追溯性、問責制和預防性安全措施的努力。

“隨著我們不斷探索 AI 能力的前沿，我們必須加速 AI 安全前沿的發現，”NVIDIA 執行長黃仁勳表示。“安全與安保需要全棧工程。NVIDIA 開放智慧體安全平臺匯聚了業界、研究人員和公共部門組織，以分享最佳實踐，就解決方案達成一致，並促進國際合作。”

編輯注： 物理 AI 是將於 10 月 20 日和 21 日在加利福尼亞州聖克拉拉舉行的 RoboBusiness 2026 的關鍵主題軌道。立即註冊參加。

NVIDIA OpenShell 和 Sentry 執行策略

OpenShell 提供了一個安全的執行時邊界，追蹤所有操作並在 AI 智慧體在 NVIDIA Vera CPU 上執行時執行策略。根據 NVIDIA 的說法，它為智慧體執行、訪問和推理路由提供了確定性的治理。

作為一家總部位於加利福尼亞州聖克拉拉的公司，NVIDIA 補充道，作為開源軟體，OpenShell 可以擴充套件以與第三方計算平臺（包括來自 Arm 和 Intel 的平臺）協同工作。

NVIDIA Sentry 在 BlueField-4 資料處理單元（DPU）上增加了一個帶外看門狗，以持續監控智慧體行為。該公司表示，Sentry 根據策略監控結果，並能在毫秒內隔離試圖突破邊界的智慧體。

“為了智慧體經濟的增長，我們需要在矽片和軟體層面擁有可信的基礎設施，”NVIDIA 企業 AI 副總裁 Justin Boitano 在一次新聞簡報會上表示。“我們希望與所有人合作，推進新一代智慧體安全。”

“獨立的信任域類似於自動駕駛汽車的工作原理，”他解釋道。“主系統執行感知，安全島確保整個系統安全失效。同樣的原則也適用於前沿 AI 系統。”

OpenShell 可根據需要將安全解除安裝到矽片或 DPU 上，而 Sentry 則監控推理軌跡。NVIDIA 開放智慧體安全平臺內的策略證明器（Policy Prover）是確定性的，並以高速執行。

“如果你編寫一條策略規定智慧體不能從 Github 讀取程式碼，智慧體可能會生成單獨的子智慧體來讀取它，然後釋出該資訊，而機器人艦隊可能會覆蓋全域性策略，”Boitano 說。“策略證明器驗證主決策樹，檢視檔案和網路訪問的組合，以發現意外的資料外洩。它源自 AWS 的 S3 研究，旨在建立可驗證的策略。”

“我們認為長期智慧體行為是一個與沙箱化不同的問題，”他補充道。“OpenShell 正在將策略的意圖投射到基礎設施中。”

NVIDIA 開放智慧體安全平臺包括 OpenShell 和 Sentry。來源：NVIDIA

Gecko 賦予 AI 智慧體對機器人運動的控制權

雖然最近的網路安全事件完全發生在軟體層面，但 Gecko Robotics 指出，這些事件揭示了影響所有 AI 智慧體（包括機器人）的潛在漏洞。該公司已使用 NVIDIA OpenShell 探索可執行的邊界如何使 AI 驅動的機器人在人類定義的許可權範圍內執行。Gecko 旨在建立必要的保障措施，以負責任地部署更大的自主權。

“正如 Jensen 所說，安全是一個工程問題，而不是法律問題，”Gecko Robotics 聯合創始人兼執行長 Jake Loosararian 說。“認為失去對 AI 的控制是不可避免的這一觀點，是無所作為的危險藉口。我們有責任建立保障措施，使 AI 保持在人類設定的邊界內。”

“NVIDIA 利用其開放智慧體安全平臺構建的內容，以及 Gecko 正在為機器人測試的內容，是在風險進入物理世界之前應對風險，並幫助確保更大的自主權不會以犧牲人類控制為代價，”他補充道。

Gecko 利用能夠攀爬、爬行、飛行和游泳的機器人，為財富 100 強能源公司以及美國空軍和美國海軍的關鍵基礎設施提供服務。其系統檢查從油箱到核潛艇和航空母艦的所有裝置。

Gecko 的工程總監 Ariel Weingarten 告訴《The Robot Report》，其智慧體可以訪問與現場操作員相同的系統命令，包括：

啟動和停止資料收集機器人運動控制和路徑規劃提升和降低有效載荷

他表示，它們不處理資料生命週期或上傳到 Gecko 的治理雲。

在 AI 智慧體安全研究繼續進行的同時，總部位於匹茲堡的 Gecko 正在使用 NVIDIA OpenShell 建立安全的執行時邊界，開發人員可以利用這些邊界來定義允許的操作和限制。

Komodo 機器人包含執行層

Gecko 的 Komodo 是一款部署在美國海軍的機器人，它在 AI 智慧體和硬體之間放置了一個獨立的執行層。“開發人員決定 Komodo 應該做什麼；OpenShell 確保它保持在規則之內，”該公司表示。

“物理 AI 和機器人技術代表了技術的下一個前沿，”Gecko Robotics 斷言。“將智慧從軟體轉移到機器中也帶來了更大的責任。僅靠模型級別的安全是不夠的。”

由於 Gecko 已經為美國軍事資產遵循定義明確的安全控制措施，因此將這些措施實施到 OpenShell 中並非太大挑戰，Weingarten 說。

“透過在完整技術棧上構建可執行的控制措施，NVIDIA 和 Gecko 正在幫助確保規範物理 AI 的保障措施能夠與技術本身一樣快速地發展，”該公司補充道。

Gecko 的 Cantilever AI 驅動平臺將機器人收集的海量資料集轉化為可操作的見解。該公司聲稱，其系統能夠基於資料和證據對結構做出決策，為客戶帶來投資回報率（ROI）。

Weingarten 指出，由於 OpenShell 在 Komodo 現場系統的邊界內執行，因此它不直接與 Cantilever 互動。他表示，Gecko 打算在未來將 NVIDIA 的安全層用於國防和軍事系統。這種確定性控制也可能有利於叢集級操作。

“Weingarten 說：“在個體單元層面擁有可用於推理叢集/艦隊動態的不變數肯定有幫助。”“隨著我們從單個系統控制發展到整個部署的智慧體輔助操作，我們很興奮能夠不斷演進。”