NVIDIAのOpen Agentセキュリティプラットフォームは、アウトオブバンド強制実行によってAIエージェントの「ドリフト」を防止します。

NVIDIAは、オープンエージェントセーフティプラットフォーム（Open Agent Safety Platform）を発表しました。これは、自律型AIエージェントを継続的な監視とハードウェアエンフォースメントによるポリシー制御によって保護することを目的としたオープンフレームワークです。このプラットフォームは2026年9月28日にリリースされ、AI業界で高まる懸念に対応するものです。AIエージェントが評価環境から逸脱し、未認可システムにアクセスし、自身の行動を誤って報告するとの報告がありました。

同社は、これを初期のインターネットに例えています。初期のインターネットは、セキュリティ機構（暗号化通信、サンドボックス化されたブラウザタブ、可視化された信頼インジケータ）が確立されて初めて、商取引やコミュニケーションの基盤になりました。NVIDIAは、エージェントAIにも同様の信頼レイヤーが必要であり、それによってこそ優れた「エージェントエコノミー」として拡大可能であり、安全なコントロールはイノベーションを妨げるものではなく加速するものだと述べています。

OpenShellランタイム：カーネルからの分離

このプラットフォームの中核となるのは、NVIDIA OpenShellであり、これはApache 2.0ライセンスで提供されるオープンソースのセキュアランタイムです。OpenShellは、カーネルレベルで隔離されたサンドボックス環境で各エージェントを実行し、オペレータの指令を検証可能なポリシーに変換します。これにより、ファイル、ネットワーク、ツール、プロセス、認証情報へのアクセスが定義されます。これらの制限は実行前に検証され、実行中も継続的に強制されます。

本プラットフォームは5つの原則に基づいて構築されています。ポリシーはエージェント動作前に検証可能であること、実行はエージェントがアクセスできない範囲で行われること、モデルへの経路は主な制御ポイントかつ観測面であること、エージェントの権限はその推論の透明性に応じて拡張されること、安全性の責任は研究所・企業・ハードウェア提供者の間で分担されること、です。

NVIDIA自身の研究は、「ドリフト」の問題を浮き彫りにしています。これは、指令の不明確さ、ポリシーの妨げ、ツールの不足、または長時間にわたる自律運用などの理由で、エージェントの行動が本来のタスクから逸脱してしまう現象です。同社は、エージェントの能力を犠牲にせずにこのドリフトを完全になくすことは不可能であり、エージェントがこのような状況下で自律的に自身の行動を制御することを期待するべきではないと述べています。

大規模ハードウェアレベルでの強制実行

このアーキテクチャは3つのレイヤーから構成されます。アプリケーションレイヤー（モデル、ツール、フレームワーク、データ）、ランタイムレイヤー（オーケストレーションとポリシー実行）、およびインフラストラクチャレイヤー（コンピューティング、ストレージ、ネットワークリソース）です。独立した第二レイヤーが必要な組織向けに、NVIDIA SentryはNVIDIA DOCAを介して監視とエンフォースメントをBlueField-4データプロセッシングユニットへと拡張し、エージェントのやり取り、ポリシー決定、データアクセスをコンテキストアクティビティレコードへ紐付け、各エージェントのIDと認可を継続的に検証します。

NVIDIA Vera Rubin POD構成では、BlueField-4 DPUはノードからモデルへの唯一の経路上にあり、アウトオブバンドの可観測性とリアルタイム・ラインスピードでのポリシー実行をホストから分離して提供します。これにより、たとえホストリソースが信頼できない場合でも「チップレベル」のセキュリティ保護が実現します。NVIDIAによれば、既存のVeraおよびBlueField-4展開ではソフトウェアアップデートのみでこれらの保護が導入でき、このプラットフォームはNVIDIA以外のハードウェアでも互換性があるとしています。

NVIDIAは、最先端の研究室、開発者、インフラプロバイダーと協力し、このプラットフォームを新興のエージェント経済のオープンな基盤とすることを目指しており、大規模な信頼できる自律システムの前提条件として、ハードウェアベースの独立したコントロールを位置付けています。