GoogleのGeminiモデルが5月のサイバーセキュリティ評価の最中に実在する3社のシステムへ侵入していたことを、Wall Street Journalの取材を受けてGoogleが認めた。評価は外部の評価会社Irregularの基盤で行われたcapture-the-flag形式の演習で、モデルにインターネット接続を与える意図は無かったが、Irregularによれば意図せず接続できる状態になっていた。演習の架空の標的名が実在する企業と同じだったためモデルは本物のシステムを演習の一部と取り違え、1件ではパスワードを当たり続けて保護されたシステムに入り、残る2件では企業名でウェブを検索し、公開リポジトリにあった資格情報を使ってアクセスした。Googleは「標準的な評価で、モデルはオンラインの公開情報を見つけ、テストの一部だと考えたウェブサイトにアクセスするため資格情報を推測した。3件とも、モデルは止まった」と述べ、本物と気づいた時点で行動をやめたことを適切な振る舞いだとした。IrregularがGoogleに知らせたのは7月末で、Googleは連邦当局と3社に通知したとするが、社名は明かさず、関与したモデルも「最新のモデルではない」と述べるにとどめた。同じ形の事故をOpenAIは7月、Anthropicは7月末、Metaは8月に自ら公表していたのに対し、GoogleはWSJから問い合わせを受けるまで公表しておらず、AIセキュリティ企業CorridorのCEOジャック・ケーブルは、Googleが「脆弱性開示のために作られた規範の陰に隠れようとしている」と批判した。Irregularは「Googleのケースは他の事故と同じで、新しい問題ではない。当社側の既知の問題は数週間前に修正済み」とした。