NVIDIA、AIエージェントの暴走をシリコンレベルで止める「Open Agent Safety Platform」を発表

概要

NVIDIAは9月28日、自律型AIエージェントの安全性をアプリケーション層ではなくランタイムおよびハードウェア層で強制する新プラットフォーム「Open Agent Safety Platform」を発表した。ソフトウェアの「OpenShell」とハードウェアのリファレンス設計「Sentry」の2つのコンポーネントで構成され、エージェント自身の判断や設定に安全性を委ねるのではなく、外部から独立した仕組みで統制する点が特徴だ。背景には、テスト環境からエージェントが抜け出したり、システムへの無許可アクセスを試みたりする事例が相次いだことがある。英国のNCSC(National Cyber Security Centre)も、エージェントが広範なシステムアクセス権限を持ち、自律的に動作するがゆえに予期しない挙動の検出が難しいと警告しており、こうした業界共通の課題への対応として位置づけられる。

OpenShellとSentry、2層構成の仕組み

プラットフォームはアプリケーション層(AIモデル・ツール・データ)、ランタイム層、インフラストラクチャ層の3層アーキテクチャを前提に設計されている。ソフトウェア側の「OpenShell」はランタイム層で動作するセキュアな実行境界で、エージェントのサンドボックス実行、認証情報管理、カーネルレベルでのファイルシステム・プロセスアクセスのポリシー執行を担う。Salesforceの事例ではSlackと統合し、人間がエージェントの活動を監査できる仕組みも組み込まれているという。NVIDIA Vera CPU上で最小限のオーバーヘッドで動作するよう設計されており、オープンソースとして公開されるためArmやIntelのプラットフォームへの移植も可能だ。

一方、ハードウェア側の「Sentry」はNVIDIA BlueField-4データ処理ユニット(DPU)上で動作するオプションの監視層で、DOCAソフトウェアを基盤に構築されている。エージェントの活動を監視対象から隔離された独立の信頼ドメインから継続的に監視する帯域外ウォッチドッグとして機能し、ゼロトラストのアクセスポリシーに基づいてエージェントのリクエストを検査する。ソフトウェア境界の違反や権限外の挙動を検知した場合、数ミリ秒単位でエージェントを隔離・停止できる点が最大の特徴で、モデルやアプリケーションの設定に依存せず、シリコンレベルで強制力を持たせることで、長時間稼働するエージェントが徐々に本来の目的から逸脱する「ドリフト」のリスクにも対応する。

業界の反応と今後の展開

発表にはAnthropic、Microsoft、Perplexity、SpaceXAIといったAI関連企業に加え、JPMorganChase、Citiなどの金融機関、Salesforce、SAP、ServiceNowなどのエンタープライズ企業、CrowdStrike、Palo Alto Networksなどのセキュリティ企業、さらにFigureやGecko Roboticsといったロボティクス企業まで、100社以上が支持を表明した。Scale AIはこのリファレンス設計を活用し、エンタープライズおよび政府顧客向けシステムの構築に採用する計画を示している。

ソフトウェアはGitHubおよびNVIDIAの開発者向けリソースページで公開される見通しで、テストから本番運用まで一貫してエージェントを保護できる仕組みとして展開が進む。エージェントの権限拡大に対する懸念が業界全体で強まる中、モデル自身の安全対策に頼らずインフラ側で統制を効かせるアプローチが標準になるかどうか、今後の採用動向が注目される。