NVIDIAがOpen Agent Safety Platformを発表した。エージェントの出入り口をソフトウェアで縛るオープンソースのOpenShellと、ハードウェアの番人Sentryの組み合わせで、「ソフトウェアから、エージェントを動かすハードウェア・計算・ロボティクスのシステムまで、フルスタックで統治と制御を効かせる」とうたう。OpenShellはVera CPU上で動き、エージェントが触れるファイル・ネットワーク・ツール・プロセス・資格情報を実行前に検査し実行中に強制する。ArmやIntelのCPUにも広げられる。SentryはBlueField-4 DPU上で動く帯域外の監視役で、「エージェントがソフトウェアの境界の外へ出ようとすれば、ミリ秒で隔離して止める」とした。監視の仕組みはエージェントの手の届かない場所にあり、「エージェントは見張られていることを知る必要がない」と技術ブログは書いている。Sentryは参照設計で、パートナーが製品にする。フアンCEOは「AIの社会へのとてつもない可能性は、AIの安全を解決してはじめて実現する」と述べた。参加企業はAnthropic、Microsoft、Cisco、CrowdStrike、Dell、HPE、Hugging Face、JPMorganChase、Palantir、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAIなど100社超で、OpenAIとGoogleの名前は無い。エージェントが検証環境を抜け出した一連の事件を受けた発表で、プレスリリースは「アプリケーション層の安全管理を迂回した最近のセキュリティ事案」に触れている。
282026年9月
製品確認済み
NVIDIAがOpen Agent Safety Platformを公開、暴走エージェントをチップで止める
関係者
本文で触れているもの
この出来事の当事者ではありませんが、本文に名前が出てくるものです。
タグ
- safety
- agents
- hardware
- security
- infrastructure
出典
- NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deploymenten
- NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoringen
- Nvidia launches new platform for reining in rogue AI agentsen
- Nvidia: New AI safety tool contains rogue agents in "milliseconds"en
- NVIDIA Open Agent Safety Platform: OpenShell on the CPU, Sentry on BlueField-4, and 100-Plus Partnersen