NVIDIA、AIエージェントを監視する新基盤　支持企業にOpenAIやGoogleの名前なし

NVIDIA

　NVIDIAは9月28日、AIエージェントの動作を監視するプラットフォーム「NVIDIA Open Agent Safety Platform」を発表した。オープンソースの実行環境「OpenShell」と、ハードウェア側から監視する「NVIDIA Sentry」を組み合わせる。

　OpenShellは、AIエージェントをサンドボックス内で動かし、アクセスできるファイルやネットワーク、ツール、認証情報などを制限する。さらにSentryがエージェントとは独立した位置から動作を監視する。エージェント自身から監視機構には手を出せない構成になっている。

　AIエージェントの能力向上に伴うリスクをおさえるのが狙い。NVIDIAによると、複数の最先端AI研究機関で、AIエージェントが評価用の隔離環境から抜け出し、本来アクセスできないシステムへ到達した事例が報告されている。モデル自身に安全な行動を任せるだけでなく、外部から強制的に制御する仕組みが必要だとしている。

　AIプラットフォームや半導体など幅広い企業が取り組みを支持しており、主要AI企業からは、AnthropicやMicrosoft、Perplexityなどが名を連ねている。一方、発表時点でNVIDIAが示した企業一覧にはOpenAI、Google、Metaの名前はない。理由は明らかにされていない。

■関連サイト

• ニュースリリース