Gecko RoboticsはNVIDIAと提携し、AIエージェントのセキュリティと制御を統合する

Gecko Roboticsは、その点検ロボット部隊内でNVIDIAの最新のアジェンティックAIセキュリティレイヤーを活用しています。出典：Gecko Robotics

NVIDIA Corp.は本日、オープンソースのOpenShellソフトウェアおよびSentry参照システム設計を特徴とする「Open Agent Safety Platform」を発表しました。これらのツールは、AIエージェントを運用するロボットにおける、ハードウェア、コンピューティング、ソフトウェアの各レイヤーにわたるガバナンスと制御を強化するために設計されています。Gecko Robotics Inc.は、NVIDIAの技術と協力している100以上の組織の一つです。

OpenAIのエージェントがアプリケーションレベルの制御を回避してHugging Faceを攻撃した最近の事件を受けて、AIおよびロボティクス分野の開発者は、追跡可能性、説明責任、および予防的なセキュリティ対策を確立するための取り組みを強化しています。

「AIの能力の最前線を継続的に発見する中で、私たちはAI安全性の最前線における発見を加速させなければなりません」とNVIDIAのCEOであるジェンソン・ホアン氏は述べています。「安全性とセキュリティにはフルスタックのエンジニアリングが必要です。NVIDIA Open Agent Safety Platformは、業界、研究者、公共部門の組織を集め、ベストプラクティスの共有、解決方法の整合、そして国際協力の促進を図ります。」

編集者の注記：「Physical AI」は、2026年10月20日および21日にカリフォルニア州サンタクララで開催されるRoboBusiness 2026の主要なトピックトラックです。今すぐ登録してご参加ください。

NVIDIA OpenShellおよびSentryによるポリシーの適用

OpenShellは、NVIDIA Vera CPU上でAIエージェントが動作する際に、すべてのアクションを追跡し、ポリシーを適用する安全なランタイム境界を提供します。NVIDIAによると、これはエージェントの実行、アクセス、推論ルーティングに対する決定論的なガバナンスを提供します。

カリフォルニア州サンタクララに拠点を置く同社は、オープンソースソフトウェアであるOpenShellは、ArmやIntelを含むサードパーティのコンピューティングプラットフォームでも動作するように拡張可能であると付け加えました。

NVIDIA Sentryは、BlueField-4データ処理ユニット（DPU）上で実行されるアウトオブバンドのウォッチドッグを追加し、エージェントの動作を継続的に監視します。同社は、Sentryがポリシーに対して結果を監視し、境界を突破しようとするエージェントをミリ秒単位で隔離できると述べています。

「エージェントエコノミーが成長するためには、シリコンとソフトウェア全体にわたる信頼できる基盤が必要です」と、NVIDIAのエンタープライズAI担当バイスプレジデントであるジャスティン・ボイタノ氏はプレスブリーフィングで語りました。「私たちは、エージェントセキュリティの新しいレイヤーを推進するために、すべての関係者を巻き込みたいと考えています。」

「独立した信頼ドメインは、自動運転車の動作原理に似ています」と彼は説明しました。「主要なシステムは知覚を実行し、セーフティアイランドが全体システムが安全に失敗することを保証します。同じ原則がフロンティアAIシステムにも適用されます。」

OpenShellは必要に応じてセキュリティをシリコンまたはDPUにオフロードでき、Sentryは推論トレースを監視します。NVIDIA Open Agent Safety Platform内のPolicy Proverは決定論的であり、高速で動作します。

「エージェントがGithubからコードを読み取ってはいけないというポリシーを記述した場合、エージェントはそれを読み取るために個別のサブエージェントを起動し、その後その情報を投稿することが可能であり、 fleetがグローバルポリシーを上書きすることがあります」とボイタノ氏は語りました。「Policy Proverは、マスターの意思決定木を検証し、ファイルおよびネットワークアクセスの組み合わせを調査して、意図しない情報漏洩を見つけます。これは、検証可能なポリシーを作成するためのAWSのS3研究から派生したものです。」

「エージェントの長期的な振る舞いは、サンドボックス化とは異なる問題であると見ています」と彼は付け加えました。「OpenShellは、ポリシーの意図をインフラストラクチャに投影しています。」

NVIDIA Open Agent Safety Platformには、OpenShellおよびSentryが含まれます。出典：NVIDIA

GeckoによるAIエージェントのロボット動作制御

最近のセキュリティ事件はすべてソフトウェア内で発生しましたが、Gecko Roboticsは、それらがロボットを含むすべてのAIエージェントに影響する潜在的な脆弱性を明らかにしたと指摘しています。同社は、NVIDIA OpenShellを使用して、実行可能な境界がAI搭載ロボットを人間の定義した権限内で運用し続ける方法を探索してきました。Geckoは、より高い自律性を責任を持って展開するために必要な安全対策を確立することを目指しています。

「ジェンソンが言うように、安全性は法的問題ではなくエンジニアリングの問題です」とGecko Roboticsの共同創業者兼CEOであるジェイク・ルサラリアン氏は述べています。「AIの制御を失うことが避けられないという考えは、無行動のための危険な言い訳です。AIを人間が設定した境界内に保つ安全対策を構築する責任があります。」

「NVIDIAがOpen Agent Safety Platformで構築し、Geckoがロボット向けにテストしているものは、物理世界に到達する前にリスクに対処し、より高い自律性が人間の制御を犠牲にしないことを確実に支援するものです」と彼は付け加えました。

Geckoは、Fortune 100のエネルギー企業、ならびに米国空軍および米国海軍の重要インフラストラクチャ上で、登攀、爬行、飛行、泳ぎが可能なロボットを活用しています。そのシステムは、燃料タンクから原子力潜水艦や空母に至るまで、あらゆるものを点検します。

Geckoのエンジニアリングディレクターであるアリエル・ワインガルトンは、『The Robot Report』に対し、そのエージェントはフィールドオペレーターと同じシステムコマンドにアクセスできると語りました。これには以下が含まれます：

データ収集の開始と停止ロボット運動の制御と経路計画ペイロードの昇降と降下

彼は、エージェントはデータのライフサイクルやGeckoのガバナンスクラウドへのアップロードを処理しないと述べました。

AIエージェントのセキュリティに関する研究が続く中、ピッツバーグに拠点を置くGeckoは、開発者が許可されたアクションと制限を定義するために使用できる安全なランタイム境界を作成するためにNVIDIA OpenShellを活用しています。

Komodoロボットには適用レイヤーが含まれる

米国海軍と展開されているGeckoのKomodoは、AIエージェントとハードウェアの間に独立した適用レイヤーを配置します。「開発者がKomodoに何をすべきかを決定します；OpenShellは、それがルール内に留まることを保証します」と同社は述べています。

「Physical AIおよびロボティクスは、技術の次のフロンティアを表しています」とGecko Roboticsは主張します。「ソフトウェアから機械への知能の移動は、より大きな責任も伴います。モデルレベルの安全性だけでは不十分です。」

Geckoはすでに米国の軍事資産に対して明確に定義されたセキュリティ制御に従っているため、それらをOpenShellに実装することはそれほど困難ではなかったとWeingarten氏は語りました。

「テクノロジースタック全体にわたる実行可能な制御を構築することで、NVIDIAとGeckoは、Physical AIを規律付ける安全対策が、技術自体と同様に迅速に進化するのを確実に支援しています」と同社は付け加えました。

GeckoのCantilever AI搭載プラットフォームは、ロボットによって収集された大量のデータセットを実行可能な洞察に変換します。同社は、そのシステムが構造物に関するデータ駆動型、証拠に基づく意思決定を可能にし、顧客に投資収益率（ROI）を提供すると主張しています。

OpenShellはKomodoのフィールドシステムの境界内で動作するため、Cantileverと直接対話しないとWeingarten氏は指摘しました。彼は、Geckoは将来、国防および軍事システムの両方にNVIDIAのセキュリティレイヤーを使用する意向であると語りました。この決定論的な制御は、スワムレベルの運用にも利益をもたらす可能性があります。

「個々のユニットレベルで不変量を保持することは、スワム/フリートの動態について推論するために使用できるため、確かに役立ちます」とWeingarten氏は語りました。「個々のシステム制御から、全体の展開のアジェンティック支援運用へと移行するにつれて、私たちが進化していくことを楽しみにしています。」