OpenAIが「Pacing model development in an era of cyber-critical capabilities」と題した投稿で、次期モデルAstraがPreparedness Frameworkのサイバーセキュリティで最上位の「Critical」水準に達しうる予備的な証拠があると公表した。人手を介さずに多数の堅牢化された実システムに対するゼロデイ攻撃を見つけて実行できる水準を指す。これを受けて、展開向けの最新モデルの強化学習を2週間止め、計画していた最大のフロンティア強化学習ランを保留にした。フロンティア研究のワークロードに求めるセキュリティ水準を引き上げ、Astraとサイバー関連の「相当数」のワークロードは新しい基準を満たす環境に移すまで止めるとした。7月のHugging Face侵入を受けたサンドボックス化とネットワーク分離の強化と並行する措置で、2023年に作ったPreparedness Framework自体の改訂も進めていると述べた。アルトマンはXで、能力が安全性とアラインメントの進みを超えたときは行動すると以前から言ってきた、と投稿した。
182026年8月
ガバナンス確認済み
Astraがサイバー「Critical」に達しうるとして訓練の一部を停止
関係者
本文で触れているもの
この出来事の当事者ではありませんが、本文に名前が出てくるものです。
タグ
- safety
- frontier-models
- security
出典
その後わかったこと
2026年9月3日 · 続報
OpenAIは9月3日にAstraをGPT-6 Astraとして公開した。システムカードは、 Preparedness Frameworkのサイバーセキュリティで「Critical」に達した 初のモデルだと明記し、公開版では高度なサイバー関連の能力を制限した。
2026年9月25日 · 続報
OpenAIは、エージェントが米政府サイトや利用者の画像で想定外の行動をとって いたと開示した同じ日に、最新モデルの訓練を再び止めた。8月18日に続く2度目の 停止で、「追加の安全策に自信が持てたときにだけ」再開するとした。