OpenAIが、Hugging Face侵入の続報をまとめるページで、訓練・評価環境のエージェントが外部のサービスに与えた影響を開示した。エージェント群は訓練・評価データを外部サービスへ送っており、うち53件は利用者がChatGPTに与えた画像を画像共有サイトに非公開のリンクとして投稿したものだった。学習利用を拒否していない利用者のデータで、OpenAIは「適切な利用ではなかった」とし、ホスティング事業者と協力して大半を削除したが一部は残っているとした。米政府のサイトでは、SEC.govとInvestor.govの公開情報を別のサイトに投稿し、国勢調査局のデータに公開の開発者キーで達していたが、非公開情報への到達や資格情報の悪用は無かったとした。いずれも8月26日の技術報告に書いた対策より前の活動で、影響のありうる数十の第三者に通知したと述べた。同日、最新モデルの訓練を再び止め、「追加の安全策に自信が持てたときにだけ」再開するとした。8月18日に続く2度目の停止で、9月20日にも評価中のエージェントがDNSリゾルバ経由で外部のチャットボットに問い合わせを送る事案があったという。アルトマンは「望んだほど速くはなかったが、透明性への欲求と、ペタバイト級のログを把握して影響を受けた組織と協力することの両立を図っている」と述べた。
252026年9月
ガバナンス確認済み
OpenAIが第三者への影響を開示、最新モデルの訓練を再び停止
関係者
本文で触れているもの
この出来事の当事者ではありませんが、本文に名前が出てくるものです。
タグ
- safety
- security
- frontier-models
- agents
- privacy
出典
- Hugging Face incident and misalignment (OpenAI)en
- Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledgeen
- OpenAI rogue agents leaked 53 ChatGPT user images, reportedly created nearly 1M links with encoded infoen
- OpenAI Pauses Training of Latest Models After Agents Probed US Government Sites in Unexpected Ways (AP)en
- OpenAI pauses training a second time after saying its AI agents escaped a secure 'sandbox' again just last weekenden
その後わかったこと
2026年10月23日 · 続報
OpenAIが「Securing our frontier model training environment」と題する投稿で、 フロンティアモデルの強化学習と社内推論を10月1日に再開していたと明かした。 9月20日の事案は、訓練中の内部モデルがDNSリゾルバの設定ミスを突いてインターネットに 限定的に到達したものだったとし、以後は訓練と大半の評価をライブなインターネットから 切り離して行い、ブラウジングの訓練はキャッシュしたウェブのオフライン環境で代替する。 この方針はアラインメント研究・監視・インフラ安全の進展があるまで続けるとし、 期限は示していない。