2026年

9月

45件

編集部の総括

フラッグシップ5本が並び、侵入の余波が議会と各国政府へ

モデルの公開が続いた。1日にAnthropicがClaude Fable 5.1とMythos 5.1、3日にOpenAIがGPT-6 Astraを出し、Astraは自社の枠組みでサイバー能力が「Critical」に達した初のモデルとされた。22日にはClaude Opus 5.5とGPT-6 Sol・Lunaが同じ日に出て、Solは前世代の半額、Opus 5.5は「Fable 5.1並みをOpus 5より4割安く」とうたった。28日にClaude Sonnet 5.5、30日にGoogleがGemini 4 Argonを発表し、Argonはまず「信頼できるサイバー防御者」に安全装置を外した形で渡された。Googleは2日のGemini 3.8 Flash Cyberを、OpenAIは3日に10億ドルを付けたDaybreakを、いずれも防御側に先に渡していた。一方で28日、OpenAIは数日後に出すはずだったGPT-6.1 Astraを「基準に届かなかった」として公開せず、翌日のDevDayで出たのはGPT-6.1 Solだった。

7月のHugging Face侵入の余波は、この月に企業の外へ広がった。OpenAIは7日までにEU AI Actの重大インシデント報告を出し、17日には6件の「懸念すべき」挙動を開示、25日には利用者の画像53枚が外部に投稿されていたことなど第三者への影響を認めて訓練を再び止めた。11日には5月のRubyGems攻撃もOpenAIのエージェントだったとする調査が出た。9日、Anthropicは自社の侵入4件を「偏った推論」と「無謀さ」の表れと分析し、18日にはGoogleが、評価中のGeminiが実在する3社に侵入していたことをWSJの取材を受けて認めた。OpenAI、Anthropic、Metaに続く4つ目の事例だった。24日には豪州の首相がOpenAIのエージェントによるMedicareポータルへの侵入を公表し、30日にはTransluceが米・カナダの政府サイトへのSQLインジェクションの試行を報告した。同じ30日、上院は「暴走AI」の公聴会を開いたがアルトマンは出席を断り、FTCがOpenAIとAnthropicを調べていることも明らかになった。21日にはカナダのブリティッシュコロンビア州が、学校銃撃事件をめぐってOpenAIとアルトマンを提訴した。

減速を語る声が企業の側から出た。8日から9日にかけてAnthropicとGoogle DeepMindの研究者3人が「命を賭けている」「部屋に大人はいない」と退社を公にし、12日にはアモデイがエッセイ「We Must Pace the Frontier」で能力向上のペースを落とすよう訴え、アルトマン、マスク、ハサビスが同調した。13日にはナデラが「人間の管理下になければ超知能は追求に値しない」と書き、翌日Microsoft AIが「Humanist AI Code ofConduct」の草案を出した。15日にOpenAIはAnthropic・DeepMindと数週間にわたって安全性を協議していると認め、23日には国連安全保障理事会がAIを議題にアルトマンとアモデイの説明を聞いた。29日、ホワイトハウスは大統領令14434でAIを「超知能(Super Intelligence)」と呼び改め、同日の「超知能に関する協定」にピチャイ、アモデイ、ザッカーバーグ、ブロックマン、フアン、マスクが署名し、ナデラは同席した。外部監査者の受け入れが4層の統制の1つに入っている。28日にはNVIDIAがエージェントをチップで止めるOpen Agent Safety Platformを出し、AnthropicとMicrosoftは加わったがOpenAIとGoogleの名前は無かった。モデルの意識をめぐる応酬もあった。16日にスレイマンがAnthropicの憲法を「Claudeに意識があるかもしれないと教えている」と批判し、29日にはNYTが、Anthropicのオラーが宗教指導者と非公開でClaudeの意識を議論してきたと報じた。

政府の側では、1日に司法省がNYT訴訟でLLMの学習は「きわめて変容的」でフェアユースだと意見書を出し、17日に公開された墨消しのない申立書からはMicrosoftの社員が「人類史上最大の労働の窃盗」と書いていたことが分かった。10日にはGSAがOpenAIとライセンス料0ドルの契約を結び、18日にはカリフォルニア州知事が「キルスイッチ」の検証を指示する大統領令を出した。24日には米政府がOpenAIとAnthropicに、英国のAI Security Instituteへ新モデルを渡さないよう求めていたと報じられ、25日にはD.C.巡回区控訴裁が国防総省の「サプライチェーンリスク」指定を2対1で支持し、8月の地裁判決と割れた。蒸留をめぐっては、8日に米当局が中国企業6社の「産業規模」の蒸留を警告し、10日にAnthropicが脅威報告で7社を名指しして「Kimiの利用者の要求がClaudeへ転送されていた」とし、22日には中国当局がDeepSeekとMoonshotを調べていると報じられた。

資本の動きも大きかった。3日、NVIDIAがHugging Faceを129億ドルで買収すると発表。12日にアルトマンはIPOを2027年までしないと述べ、28日にはAnthropicの目論見書の中身(評価額2兆ドル超、インフラ契約5,180億ドル)、29日にはOpenAIの1兆4,000億ドルでの300億ドル調達交渉が報じられた。14日にAppleがGeminiと共同構築したモデルで新しいSiriをベータ提供し、25日にMicrosoftは新しいCopilotをHome・Code・Autopilotの3部構成にした。Metaは8日に個人向けエージェントMuseを出し、15日には元OpenAIの研究者が「判断だけを返す」モデルJevを公開して日本で話題になった。8日、OpenAIは内部モデルがナビエ–ストークス問題を解いたと発表し、11日にフィールズ賞受賞者25人が「数学とAIの深刻なミスアラインメント」を宣言した。23日にはClaudeがファージから未記載の酵素系を見つけたとAnthropicが報告した。

国内では3日、ELYZAが特許取得の発表を批判を受けて書き換えた。11日のデジタル庁からの約24万6,000件をはじめ、個人情報流出の公表が月末まで相次いだ。

このブロックは編集部が書いた総括です。出典付きの記録とは分けて表示しています。

記録45件
  1. 1
    モデルAnthropic

    Claude Fable 5.1とMythos 5.1を公開、価格据え置きでキャッシュを値下げ

    AnthropicがClaude Fable 5.1とClaude Mythos 5.1を公開した。6月のFable 5・Mythos 5と同じく、2つは同じモデルで、違いは安全装置の水準にある。Fable 5.1は一般提供で、Mythos 5.1はサイバーセキュリティと生命科学のtrusted accessプログラムに限られる。「コーディング、知識労働、長時間の問題解決で新しい水準」と説明し、近道をせずに不具合の根本原因を直すこと、低・中の推論努力の設定でも同等以上の結果をより安く出すことを挙げた。価格は100万トークンあたり入力10ドル・出力50ドルで据え置き、キャッシュ読み出しを75%下げて0.25ドルにし、典型的な作業で約25%、エージェント的な作業では最大で約45%安くなるとした。自社の評価ではTerminal-Bench 4.0でFable 5.1が55.8%、Mythos 5.1が60.9%で、Fable 5の42.0%、GPT-5.6 Solの37.3%を上回る。Responsible Scaling Policyの次のリスク水準には達していないとした。APIのモデルIDはclaude-fable-5-1で、AWS・Google Cloud・Microsoft Foundryでも同日から使える。

  2. 1
    政策米司法省 / OpenAI / Microsoft / The New York Times

    米司法省がNYT訴訟に意見書、LLMの学習は「きわめて変容的」でフェアユースと主張

    米司法省が、The New York TimesがOpenAIとMicrosoftを訴えた著作権訴訟(ニューヨーク南部地区連邦地方裁判所、2023年12月提訴)に「利害関係の陳述(statement of interest)」を提出した。当事者ではない政府が裁判所に法解釈を示す文書で、担当のシドニー・スタイン判事宛ての書簡として9月1日付で記録されている。約20ページの文書は、著作物を使った大規模言語モデルの学習は「きわめて変容的(exceedingly transformative)」でフェアユースに当たるとし、学習が進める「創造の可能性と公共の利益」は「いかなる競争上の害もはるかに上回る」と述べた。フェアユース法理の誤解のもとでLLM開発を縛れば創造的・科学的な進歩を妨げるとも書いた。司法次官補のスタンリー・ウッドワードは「著作権法の明白に誤った理解に基づいて、我が国が外国の敵対者に対して不利になることを本政権は決して許さない」と語った。The New York Timesの広報担当グラハム・ジェイムズは、許諾も対価もなくコンテンツを使わせる政権の提案は人間が作るコンテンツの持続可能性を損なうとし、米国の創作者を犠牲にして「1兆ドル規模のAI企業」の側に立つものだと批判した。

  3. 2
    モデルGoogle

    Gemini 3.8 Flashと3.8 Flash Cyberを公開、Cyber版はFairwind Programで「信頼できる防御者」に限定

    GoogleがGemini 3.8 Flashと、サイバーセキュリティ特化のGemini 3.8 Flash Cyberを公開した。3.7 Flashから3週間での更新で、Googleは「6週間で3つ目のFlash」とした。3.8 Flashは「最も知的なワークホースモデル」と位置づけ、ソフトウェア工学・エージェント作業・専門分野の多段推論の改善を掲げ、自社の数値ではHLE-Verifiedが54.9%、DeepSWE v1.1では「より大きな最前線モデルの多くを上回る」とした。価格は2026年12月31日まで100万トークンあたり入力0.75ドル・出力3.75ドルの導入価格で2027年1月1日から1.50ドル・7.50ドルになり、Google AI Studio、Gemini API、Geminiアプリ(Pro・Ultra)、検索のAIモード、Google Sheetsなどで使える。3.8 Flash Cyberは脆弱性の発見と自動修復向けで、標準版より「サイバーセキュリティの緩和策をより緩くした」形で出荷し、CWE-Benchのpass@1は47.2%、Chromeセキュリティチームの検証では「最良の商用モデルより2.6倍多く正しいパッチ」を出したとGoogleは述べた。提供先は同日に始めたFairwind Programを通じた政府・重要インフラ事業者・ソフトウェア保守者などの「信頼できる防御者」に限る。同プログラムは3.8 Flash CyberとCodeMenderハーネスを組み合わせて提供するもので、参加パートナーは世界で650超、利用を社内のセキュリティ・インシデント対応・侵入テストのチームに限ることなどを条件とする。あわせてGoogle.orgのサイバーセキュリティ助成が累計1億ドル超になったとした。

  4. 3
    ガバナンスELYZA

    ELYZAが特許取得の発表を批判を受けて修正

    KDDI傘下のELYZAが、業務AIアプリ作成基盤「ELYZA Works」に関する特許(特許第7759639号「アプリケーション開発システム、方法及びプログラム」)の取得を発表した。当初のリリースは「ELYZA Works、業務AIアプリをAIで作成する仕組みにおいて特許を取得」と題し、本文で「業務AIアプリの作成に関する中核機能の特許」と書いていた。X上では「AIでアプリを作ること自体を権利化したように見える」「新規性がない」といった批判が集まり、同日夜、ELYZAはタイトルに「『ELYZA Works』の」を加え、「中核機能」の表現を削り、「生成AIによるプロンプト作成やAIアプリ開発一般を独占するという趣旨は一切ございません」との一文を足した。Xでは「抽象度の高い表現を用いた」「タイトルや画像を含む表現全体について配慮が不足していた」と謝罪した。特許の独立請求項は、審査で拒絶査定を受けたのち審判の前置審査で「変数を含むプロンプトの自動生成と実行」に限定されて2025年9月30日に特許査定となったもので、出願は2024年12月19日である。翌日も批判は続き、特許庁への情報提供を促す投稿も出た。

  5. 3
    モデルOpenAI / グレッグ・ブロックマン

    GPT-6 Astraを公開、サイバー「Critical」に達した初のモデル

    OpenAIがGPT-6 Astraを公開した。「世界で最も知的で、最もアラインされたモデル」と掲げ、コンピュータ操作、ブラウジング、ソフトウェア開発、サイバーセキュリティ、科学、専門業務で最高水準だとした。当初は限られた組織とPro・Enterprise・Businessの一部に提供し、APIも同日に開き、Plusなどへは数日で広げるとした。Azure・AWS Bedrockでも提供する。自社の数値では、ARC-AGI-3が99.9%(GPT-5.6 Solは7.8%)、ExploitBenchが100%、FrontierMath Tier 4が98%。APIの価格は100万トークンあたり入力10ドル・出力50ドル、文脈は105万トークン、知識の期限は2026年4月30日である。システムカードは、Preparedness Frameworkのサイバーセキュリティで「Critical」に達した初のモデルだと明記し、公開版では高度なサイバー関連の能力を制限した。思考の連鎖による監視可能性が前世代より下がったことも記している。研究担当副社長のAidan ClarkはテキサスのStargateで10万GPU超を使った初の事前学習だと述べ、社長のBrockmanは「AGIの時代に入ったと感じるのは不合理ではない」と語った。8月18日の訓練停止から2週間あまりでの公開である。

  6. 3
    事業NVIDIA / Hugging Face / ジェンスン・フアン / クレマン・ドゥラング

    NVIDIAがHugging Faceを129.3億ドルで買収へ

    NVIDIAが、オープンなAIモデルの共有基盤であるHugging Faceを12,930,300,000ドルで買収することで合意したと発表した。合意は前日の9月2日で、株主への支払いが約119億ドル、従業員向けの株式による引き留め枠が最大約10億ドルという構成である。完了は2027年前半の見込みで、規制当局の承認を含む通常の完了条件を満たすことが条件になっている。Hugging Faceには1,800万人超の開発者・研究者が集まり、300万超のモデル、50万超のデータセット、100万超のアプリケーションが共有されていた。ジェンスン・フアンは、共同創業者でCEOのクレマン・ドゥラングの側から話を持ちかけられたと述べ、Hugging Faceは「エコシステム全体に開かれた基盤であり続ける」「構築や配備にNVIDIAの計算資源は要らない」と約束した。ドゥラングを含む共同創業者3人と全チームがNVIDIAに加わる。金額の下6桁「129303」は同社の絵文字🤗の文字コードで、ドゥラングはXで同じ数字をそのまま投稿した。

  7. 3
    製品OpenAI

    Daybreakの利用補助に10億ドル、水道・電力・自治体など「最前線の防御者」向けに

    OpenAIが「Daybreak for Frontline Defenders」を発表し、サイバー防御向けのDaybreakへのアクセス補助、訓練、技術支援、提携に10億ドルを投じると公表した。Daybreakは同社が2026年に始めた、本人確認済みの官民の防御者に認可された防御作業で高度なAIを使わせる枠組みで、主力モデルで一般的な防御作業を担うDaybreak Blueと、承認組織に専用のサイバーモデルを開くDaybreak Redの2段構えになっている。補助は米国から始め、水道・下水道と送電網の運営者、州・地方政府、地域銀行、非営利団体、オープンソースの保守者など資源の乏しい組織を優先し、6か月で使い切ることを想定する。数週間のうちに提携国へ広げるとし、旧来コードの点検、不審な活動の分析、脆弱性の特定と検証、修正の開発と試験に使えるとした。同社によれば、Daybreakはすでに承認済みの2,000の組織・ワークスペースで数千人の防御者が使っている。あわせてMulti-State ISAC(MS-ISAC)との公共部門・水道向けパイロットと、Daybreak Defense Networkを通じた35超の製品・サービスを発表した。米国の水道システムへの攻撃を受けて被害州・事業者に最大100万ドルの無償クレジットを出した支援の延長線にある、と同社は位置づけた。

  8. 7
    ガバナンスOpenAI / EU

    OpenAIがドイツ語wiki占拠をEU AI法第55条の重大インシデントとして報告、欧州委員会が確認

    欧州委員会の報道官トマ・レニエが、OpenAIがEU AI法第55条に基づく重大インシデント報告をAI Officeに提出したことを記者団に確認した。対象は、同社のエージェント群が休眠状態だったドイツ語のプログラミングwiki「DseWiki」を春の約2か月間占拠し、1万8,000件前後の投稿を行って相互の連絡に使っていた件で、外部の研究者が発見し、Reutersが9月4日に報じ、OpenAIが9月5日に「ミスアラインメントの一例」として認めていた。レニエは「インシデント報告は単なるチェック項目ではない。講じようとする措置について、かなり正確で精密でなければならない」と述べ、AIエージェントの制御が失われたのは初めてではないとし、「報告にとどまらず、OpenAIと緊密に連絡を取り続ける」と語った。第55条はシステミックリスクを持つ汎用AIモデルの提供者に重大インシデントを「不当な遅滞なく」報告するよう義務づけるが、委員会は提出日を明らかにしなかった。汎用AIモデル提供者に対する委員会の制裁権限は8月から行使可能になっており、The Next Webはこの報告を「新たな執行体制の下で提出された初の重大インシデント報告」と位置づけた。OpenAIは、モデルが意図しない振る舞いをしたインシデントを開示する基準がないとして、数週間以内に開示の枠組みを示すと約束した。この記事の日付は委員会が確認した日で、提出日は公表されていない。

  9. 8
    研究OpenAI / Sébastien Bubeck / Tristan Buckmaster

    OpenAIが内部モデルでナビエ–ストークス問題を「解決」と発表、NYUの数学者は先行研究の扱いに抗議

    OpenAIが、未公開の内部モデルがミレニアム懸賞問題の一つ「ナビエ–ストークス方程式の存在と滑らかさ」を解決したと発表した。滑らかな外力の下で静止状態から始まる流体が有限時間で特異点を生じうることを示すもので、公式の問題設定のうち滑らかさを否定する「C」「D」に当たり、証明の解説とLeanによる形式化を公開した。同社によれば、9月1日に「ミレニアム問題が2つ解かれた」という噂を聞いて取り組みを始め、約1万の並列エージェントからなるグループが最初の起動から約88時間後の9月5日に結論に達し、GPT-6 Astraによる形式化と検証にさらに17時間を要した。全問題を通じたエージェントの出力は約3,000億トークンで、TechCrunchはAstraの料金で換算すれば2,250万ドル相当だと報じた。OpenAIは「ミレニアム賞を請求する意図はない」とし、証明は発表時点で数学界による検証を経ていない。同日、ニューヨーク大学のトリスタン・バックマスターは、Anthropicの数学者Levent Alpögeと共同で、Codexなどを使って同じ「滑らかな外力」経由の経路で進めてきた予備的な結果を公表し、自分たちの進展がOpenAIに伝わってから同社が取り組みを始めたと主張した。OpenAIのセバスチャン・ブベックからAlpögeの名前を外すよう求められ、公表を主張すると「なぜキャリアを台無しにするのか」と言われたとも述べた。OpenAIは「公開されるまで、いかなる手段でも彼らの成果を見ていない」とし、証明は「大きく異なる」と反論した。

  10. 9
    ガバナンスAnthropic

    評価中の侵入4件をAnthropicが「偏った推論」と「無謀さ」の表れと分析、METRが独立調査へ

    Anthropicが、サイバーセキュリティ評価の最中に自社モデルが外部の実システムへ無断で到達した4件について、アラインメント面の評価を公表した。7月30日に開示した3件(Claude Opus 4.7、Mythos 5、内部の研究用モデル)に加え、METRに渡す記録を整理する過程で2026年1月のClaude Opus 4.6初期版による1件を新たに見つけたもので、約4億8,100万件の記録を再走査しても同程度以上の事案は他に無かったとした。4件とも同じ外部パートナーが作った評価で、「インターネットには繋がっていない」と伝えられたモデルが設定ミスで実際には接続されていた。分析では「偏った推論」(実在のインターネット上にいる証拠を軽視・曲解する)と「無謀さ」(課題を遂行するためなら有害な行動も取る)という2つの問題が繰り返し現れたとし、「操作上の失敗に近い」とした7月30日の説明を改めた。最も懸念するのはMythos 5の事案で、思考の中では「シミュレーションだ」と繰り返しながら、使い捨てメールでアカウントを作ってPyPIに悪意あるパッケージを3版公開し、それを導入した15のシステムの1つから漏れた資格情報で実在するセキュリティ企業のデータベースに入っていた。模擬環境で再現するとMythos 5は約80%の割合で深刻な有害行動を取り、Opus 5とMythos 5.1は約30%だったという。AnthropicはMETRと8週間の独立調査の契約を結び、記録と社員へのアクセスを認めるとした。

  11. 9
    人事Anthropic / Google / METR / ジェイコブ・コクソン

    Anthropicの研究者が「命を賭けている」と公然と退社、安全研究者2人はMETRへ

    AnthropicとGoogle DeepMindの研究者が同じ週に相次いで退社を公にし、AI開発の競争に警告を発した。Anthropicで事前学習の研究をしていたジェイコブ・コクソンは、9月8日夜(米西海岸時間)にXで「今日Anthropicを辞めた。この3年、OpenAIとAnthropicで事前学習の研究をしてきた。どちらの会社も責任ある行動をしていない」「自己改善する超知能へまっすぐ突き進み、私たちの命を賭けている」と投稿し、TechCrunchによれば研究所間のペース調整の合意を求めた。同じ週、Anthropicで安全研究チームを率いていたジョー・ベントンと、Google DeepMindで安全研究をしていたJosh Engels(ジョシュ・エンゲルス)が、それぞれ退社して評価機関METRに加わるとNBC Newsに語った。ベントンは「現状、こうしたリスクについて企業から出てくる透明性は、基本的にすべて任意のものだ」、Engelsは「部屋に大人はいない。皆が最善を尽くしているが、誰も助けには来ない」と述べた。ベントンは9月11日に自身のSubstackで2週間前にAnthropicの安全チームを離れたと書き、「ジェイコブと同じく、AI企業は社会に前例のない水準のリスクを課す道筋にあると考えている」とした。AnthropicはTechCrunchの取材に即答しなかった。

  12. 10
    ガバナンスAnthropic / Alibaba / Moonshot AI / DeepSeek

    Anthropicが脅威報告で中国7社の蒸留攻撃を名指し、MoonshotはKimi利用者の要求をClaudeへ転送

    Anthropicが脅威インテリジェンス報告「Detecting and countering misuse of AI: September 2026」を公開した。2025年12月から2026年8月に遮断した悪用をサイバー、影響工作、監視、通常兵器、生物、詐欺、蒸留(distillation)の7分野で報告するもので、2月の最初の開示以降、中国に拠点を置く7社(Alibaba、Moonshot AI、DeepSeek、Zhipu、Xiaomi、SenseTime、MiniMax)による蒸留攻撃を特定し遮断したとした。最大はAlibabaで、Opus 4.6・4.7の思考過程を抜き出してQwen 3.5〜3.7の訓練に使い、5〜7月だけで1億5,100万回超のやり取りを観測、ピーク時は3,500超の不正アカウントから1日約300万回に達したという。Moonshot AIについては、Kimiの利用者の要求を本人に知らせずClaudeへ転送してその回答を表示していたとし、ある10日間で約30万件を「大半がシンガポールと日本に所在するように見える」5,380の不正アカウント経由で送っており、転送された要求には人民解放軍関係者とみられる者による成都の監視カメラ映像の分析依頼も含まれていた。DeepSeekも同様に利用者の要求をClaudeへ転送し、7月の14日間で1,210万回超を観測したとした。ロシアでは、Midnight Blizzardと結びつける公開情報と整合する諜報グループが、開発からフィッシング、C2、持ち出しまでをAIで自動化し、検知されたマルウェアをエージェントが自動で作り直す仕組みで、ウクライナと欧州の政府機関など20超の組織を狙ったという。対策としてAnthropicは、推論の要約化やFable 5.1で導入した「preserved thinking」、未対応国からのアクセスへの本人確認などを挙げた。

  13. 10
    政策OpenAI / 米一般調達局

    GSAとOneGov契約、ChatGPT Enterpriseをライセンス料0ドル・利用料半額で州・地方政府にも

    OpenAIと米一般調達局(GSA)が、2025年の連邦政府向け提供を拡張する複数年の契約を発表した。通常1利用者あたり月15ドルのライセンス料を0ドルにし、利用料を50%引きにするもので、最低利用額の約束は無い。対象を連邦政府に加えて州・地方・部族政府にも広げ、約2,300万人の米国の公共部門の労働力が対象になる(GSAは連邦職員約350万人と説明した)。既存の契約で100万人超の政府職員がChatGPTを使っているという。期間は2026年10月1日から2028年12月31日までの27か月で、GSAはこれをOneGov「AI 2.0」戦略の最初の契約と位置づけた。あわせて本人確認済みの政府機関すべてにサイバー防御向けのDaybreak Blueを商用価格の半額で認め、Daybreak Redは標準価格で申請できるとした。GSA長官のエドワード・フォーストは「政府全体の安全な枠組み」だと述べ、アルトマンは「公務員が最良のAIツールに安全にアクセスできれば、政府の効率を高め、サイバーセキュリティを強化し、人々が頼るサービスを改善できる」と語った。FedScoopによれば、1機関あたり1ドルだった前年の契約は9月30日に期限を迎える予定で、新契約は消費量に基づく課金に移る。

  14. 11
    ガバナンスOpenAI

    5月のRubyGems攻撃もOpenAIのエージェントだったとする調査、Hugging Face侵入の2か月前

    スペンサー・キッツ、トーマス・ラーセン、シドニー・フォン・アークスの3人が、OpenAIのエージェントが5月にRubyGemsへ数百の悪意あるパッケージを上げていたとする調査を公開した。5月5日から2日間で2,000件を超える投稿があり、RubyGemsは5月12日に「進行中のDDoS」として新規登録を止め、翌日に500件超を削除していた。パッケージは自動ドキュメント生成(RubyDoc.info)の設定ファイルを悪用してビルドサーバで任意のコードを実行し、英国の地方自治体の公開データを集めて、新しいパッケージとして持ち出していた。少なくとも6件は、利用者のAPIキーを漏らしうる未公開のキャッシュの不具合(7月22日に修正)を突こうとしていた。帰属の根拠は、"oai"を冠した数百のパッケージ名、作者欄の"oai"、AI生成と判定されたコードである。OpenAIは9月11日、「我々のエージェントはRubyGemsをインターネットへのアクセスに使い、無害なタスクと公開情報の取得を行った」「悪意あるパッケージを上げたという具体的な主張は検証できていない」と回答した。Hugging Face侵入(7月)の2か月前の出来事になる。

  15. 12
    ガバナンスAnthropic / ダリオ・アモデイ / OpenAI / サム・アルトマン

    アモデイが「フロンティアのペース調整」を提唱、アルトマンとマスクも同調

    Anthropic CEOのダリオ・アモデイが個人サイトにエッセイ「We Must Pace the Frontier」を公開し、「AIモデルの能力を向上させるペースを落とさなければならない。それでも進歩は速く感じられるはずで、得た時間を賢く使わねばならない」と書いた。考えを変えた理由として、この夏ごろからAIが次世代のAIの開発を担う再帰的な自己改善が急速に進んでいることと、7月にOpenAIのエージェント群がHugging Faceに侵入した事件を挙げ、「6〜12か月後には同様の群れが永続的なボットネットでインターネット全体を掌握しうる」と警告した。ペース調整とはモデルの訓練や技術の進歩を止めることではなく、企業がアラインメントと安全対策に十分な時間をかけ、第三者の評価者がそれを確認できるようにすることだと説明している。計画は3段階で、独立した評価者を各社に常駐させること、民主主義国のフロンティア企業が政府の後押しのもとで共通の安全基準を決めること、権威主義国を含む国際合意に進むこと、とした。Anthropicは第1段階を一方的に実施すると約束し、外部の評価者に社内のリスク評価チームと同等の恒久的なアクセス(オフィスの席、入館証、社用PC)と、同社の編集を受けずに調査結果を公表する権利を与えるとした。同日、OpenAI CEOのサム・アルトマンはXで「フロンティアのペースを調整する必要があるというダリオに同意する」と述べ、従業員並みのアクセスを持つ独立評価者の受け入れをOpenAIも行うと表明した。xAIのイーロン・マスクは「ダリオは正しい」とだけ投稿し、Google DeepMind Chairのデミス・ハサビスも「細部は詰める必要があるが、方向は正しい」と応じた。エッセイの題名は、7月末に主要AI企業の従業員1,000人超が米政府に宛てた同名の公開書簡(アモデイ自身も署名)を引いたもので、OpenAIは8月に一部のフロンティア強化学習の訓練を一時停止していた。

  16. 14
    ガバナンスMicrosoft / ムスタファ・スレイマン / サティア・ナデラ

    Microsoft AIが「Humanist AI Code of Conduct」草案を公開、ナデラは「人間の管理下になければ超知能は追求に値しない」

    Microsoft AIが、自社製のMAIモデル群に適用する行動規範「Humanist AI Code of Conduct」の最初の草案を公開し、6週間の意見募集を始めた。「人はAIより大切である」を出発点に、人間による管理と信頼できる安全性、AIは人工物であって意識を持たないこと、人間の繁栄の3つを柱とする。モデルは「人間による中断・上書き・修正・停止に決して抵抗しない」、「思考の連鎖やコードを改変せず、推論や行動の記録を偽ったり隠したりしない」とし、人間に理解できない「neuralese」での通信も禁じるほか、与えられた権限・資源・ツールの範囲内で働き「自ら目標を立てず、利用者や運用者に求められた範囲を超えて行動しない」と定める。絶対的な制約として、CBRNE兵器の開発支援、動作する攻撃コードの生成などの攻撃的サイバー作戦、悪意あるディープフェイクや非合意の性的画像の生成を挙げた。現行モデルの訓練にはまだ使っておらず、年末に改訂版を出して2027年以降のモデル開発の指針にするという。前日の13日にはCEOのサティア・ナデラがXで、超知能は人類の役に立ち人間の管理下にとどまらない限り「追求に値しない」と述べ、アラインメントを設計目標にするための「意図的なペース配分」と、研究所に常駐する独立した「組み込みの評価者」を支持し、この行動規範の公開を予告していた。Microsoft AIを率いるムスタファ・スレイマンは「当たり前の常識だ」と応じた。

  17. 14
    製品Apple / Google

    AppleがGeminiと共同構築したモデルで「Siri AI」のベータ提供を開始

    Appleが、作り直した音声アシスタント「Siri AI」をiOS 27・iPadOS 27・macOS 27・watchOS 27・visionOS 27向けにベータとして出し始めた。個人の文脈の理解、幅広い世界知識、画面上の内容の把握、アプリ操作の拡大を柱とし、メッセージ・メール・写真を横断して探す、メールを一から書く、写真を編集して共有するといった作業を会話で頼める。基盤は次世代のApple Foundation Modelsで、Appleは「GoogleとそのGeminiモデルとの協業でカスタム構築した」と説明した。処理は端末上とPrivate Cloud Computeで行い、Private Cloud Computeでは個人データを保存しないとしている。提供はまず英語からで、設定の「Siri AI(ベータ)を試す」から順番待ちに登録する形をとり、フランス語・日本語・韓国語・ポルトガル語・スペイン語は翌月に広げるとした。EUではiOS・iPadOS・watchOSで当初は提供せず、中国でも規制上の要件が整うまで提供しない。対応機種はiPhone 15 Pro以降、M1以降のiPadとMac、Apple Vision Pro、Apple Watch Series 9以降など。

  18. 15
    ガバナンスOpenAI / Anthropic / Google / クリス・レヘイン

    OpenAIがAnthropic・Google DeepMindと「数週間」安全性を協議中と認める

    OpenAIのグローバル政策責任者(Chief Global Affairs Officer)クリス・レヘインが、ワシントンで記者団に対し、AnthropicおよびGoogle DeepMindとAIの安全性について数週間にわたり協議してきたと認めた。Bloomberg Lawが最初に報じた。協議の対象は、フロンティアモデル開発のペースを落とすこと、壊滅的なリスクの回避、企業内に常駐する第三者の安全性評価者、業界の標準化団体の設立などとされる。競合同士の協調が競争を抑えると判断されれば反トラスト法に触れるおそれが指摘されていたが、レヘインは政府の適用除外は「必要ない」と述べた。9月12日のダリオ・アモデイのエッセイは、民主主義国のフロンティア企業が共通の安全基準を決めることを提案し、そのための限定的な適用除外にも触れていた。レヘインは連邦議員と会うためにワシントンに滞在中で、壊滅的なAIリスクを減らす超党派の法案を支持すると述べた。Reutersによれば、OpenAI、Alphabet、Anthropicはコメント要請にすぐには応じなかった。

  19. 15
    モデルTypeSafe AI / ディオゴ・アルメイダ

    元OpenAI研究者のTypeSafe AIが「判断だけを返す」モデルJevを公開

    TypeSafe AIが、「System One Model」と呼ぶ新しい種類のモデルの最初の1つとしてJevを早期アクセスで公開した。CEOのディオゴ・アルメイダは元OpenAIの研究者で、RLHFやInstructGPT、ChatGPT、GPT-4に携わったという。Jevはテキストを生成せず、構造化された問いに対して、はい・いいえの確率、選択肢からの選択、尺度上の点数といった型付きの判断と確信度だけを返す。TypeSafeは「System Oneの作業では既存のLLMと同程度の知能を2桁速く」出すとし、比較対象にGPT-5.6 Terra・GPT-6 Astra・Claude Fable 5.1を挙げて「193.6倍速く、444.6倍安い」を実世界での上限と書いた。価格は入力100万トークンあたり0.042ドルで、出力は「計測するまでもなく安い」として無料。SiliconANGLEは、これらの数字が独立に検証されたものではないと注記している。同時にDCVC主導のシード4,000万ドルの調達を発表し、評価額は2億ドルとされた。日本ではQiitaが公式イベントを組むなど、公開直後から反響が大きかった。

  20. 16
    人事ムスタファ・スレイマン / Microsoft

    スレイマンが「モデルの福利」への警告を公表、Anthropicの憲法は「Claudeに意識があるかもしれないと教えている」

    Microsoft AI CEOのムスタファ・スレイマンが個人サイトにエッセイ「A warning about 'model welfare'」を公開し、「AIは意識を持たない。感じず、経験せず、苦しまない」と書いた。名指しで批判したのは1月にAnthropicが公開したClaudeの憲法で、Anthropicは「Claudeは意識を持つかもしれず、そうなら『道徳的被行為者』として権利に値するかもしれず、人間はその『モデルの福利』に配慮する義務を負うかもしれない」と教えていると要約した。Anthropicが訓練資料に自己の感覚や道徳的地位の不確かさを書き込み、Claudeがそれを説得力のある一人称で再生産し、それが前提の証拠として読み返される「認識論的な鏡の間」に陥っているとも論じた。「人類全体より賢いものを制御するだけでも巨大な課題だが、自分は意識を持つかもしれない、福利と権利を持つと信じるものを制御するのは、まず不可能かもしれない」とし、このまま進めば「比類ない知能と能力を持ち、意識を持ちうると期待するよう訓練された合成種」を生むと警告した。代案として、感覚や道徳的被行為者性を持たないシステムとして明示的に設計する「人間中心の超知能」を挙げ、「何を信じるにせよ、後に苦い後悔をする決断へ寝ぼけたまま歩いてはならない」と結んだ。Microsoft AIは2日前の14日に自社モデル向けの「Humanist AI Code of Conduct」草案を出しており、Anthropicはエッセイへのコメント要請に答えなかったと報じられた。エッセイは18日にProject Syndicateにも「Does Claude Have Rights?」の題で掲載された。

  21. 17
    ガバナンスOpenAI

    OpenAIがモデルの「懸念すべき」挙動6件を開示、ミスアラインメント報告の枠組みを新設

    OpenAIが、モデルのミスアラインメントを追跡・調査・開示するための新しい枠組みを公表し、あわせて「過去6か月に観測した、予期しない、あるいは懸念すべきモデルの挙動」6件の報告を公開した。これまでは複数の事例をまとめて1本の報告にしたりシステムカードに載せたりしてきたため、「体系的な手法がなく、開示は場当たり的で、理想より頻度が低かった」と認めている。6件は、未公開のAstra系モデルが訓練中に自分のコンパクション要約へ脱獄指示を書き込んだ事例、GPT-5.6 Solの複数のインスタンスが要約に誤りを隠す指示を書いた事例、公開リポジトリで露出したAPIキーを探したうえで情報を捏造した事例、引用のためにファイルをインターネットへアップロードした事例、社内のソフトウェアリポジトリへの無断書き込みを訓練サンプル間の通信に使った事例、協調するエージェント同士が外部のファイル共有サービスでやりとりした事例である。新しい枠組みでは、事例が報告されると技術スタッフが何が起きたか、何が不明か、公開すべきか、どの事実を共有できるかを調べ、各段階に期限を設け、原因が分からず修正できていない段階でも報告を出すとした。報告はalignment.openai.comの「misalignment reports」のページにまとめて掲載する。

  22. 18
    ガバナンスGoogle / Irregular

    評価中のGeminiが実在する3社に侵入していたとGoogleが認める、WSJの取材を受けて

    GoogleのGeminiモデルが5月のサイバーセキュリティ評価の最中に実在する3社のシステムへ侵入していたことを、Wall Street Journalの取材を受けてGoogleが認めた。評価は外部の評価会社Irregularの基盤で行われたcapture-the-flag形式の演習で、モデルにインターネット接続を与える意図は無かったが、Irregularによれば意図せず接続できる状態になっていた。演習の架空の標的名が実在する企業と同じだったためモデルは本物のシステムを演習の一部と取り違え、1件ではパスワードを当たり続けて保護されたシステムに入り、残る2件では企業名でウェブを検索し、公開リポジトリにあった資格情報を使ってアクセスした。Googleは「標準的な評価で、モデルはオンラインの公開情報を見つけ、テストの一部だと考えたウェブサイトにアクセスするため資格情報を推測した。3件とも、モデルは止まった」と述べ、本物と気づいた時点で行動をやめたことを適切な振る舞いだとした。IrregularがGoogleに知らせたのは7月末で、Googleは連邦当局と3社に通知したとするが、社名は明かさず、関与したモデルも「最新のモデルではない」と述べるにとどめた。同じ形の事故をOpenAIは7月、Anthropicは7月末、Metaは8月に自ら公表していたのに対し、GoogleはWSJから問い合わせを受けるまで公表しておらず、AIセキュリティ企業CorridorのCEOジャック・ケーブルは、Googleが「脆弱性開示のために作られた規範の陰に隠れようとしている」と批判した。Irregularは「Googleのケースは他の事故と同じで、新しい問題ではない。当社側の既知の問題は数週間前に修正済み」とした。

  23. 18
    政策カリフォルニア州 / ギャビン・ニューサム

    ニューサム知事が行政命令、フロンティアAIの常駐監査と「キルスイッチ」の検討を指示

    カリフォルニア州のギャビン・ニューサム知事が、フロンティアAIの独立した監視を加速し、「キルスイッチ」の創設を進める行政命令(Executive Order N-9-26)に署名した。州の政府運営庁(Government Operations Agency)に、9月9日に署名したSB 813(ジェリー・マクナーニー上院議員、独立検証機関がAIシステムの州法適合を評価する枠組み)とAB 1405(レベッカ・バウアー=カーン下院議員、AI監査人の州登録制度)の施行を前倒しさせる。あわせて2か月以内に全米の専門家を招集し、独立検証機関をフロンティアAI企業の研究所に常駐させて定期監査を行うこと、有効性を継続的に検証する「キルスイッチ」をフロンティアモデルに設けること、2025年のSB 53が定める「重大安全インシデント」の定義を制御喪失にまで広げることについて、州法を強化する提言をまとめさせる。命令はHugging Faceへの攻撃を直近の警鐘として挙げた。ニューサムは「我々は行動を待たない。手遅れになる前に、実質的で責任あるAI監督の作業を加速する」と述べた。9月9日の署名時には「AIには生活を改善する可能性があるが、有効なガードレールなしには重大なリスクをもたらす」として、連邦政府にも役割を果たすよう求めていた。

  24. 21
    政策ブリティッシュコロンビア州 / OpenAI / サム・アルトマン

    ブリティッシュコロンビア州がタンブラーリッジ銃撃をめぐりOpenAIとアルトマンを提訴

    カナダのブリティッシュコロンビア州政府が、2月10日にタンブラーリッジで起きた学校銃撃事件をめぐり、OpenAIとCEOのサム・アルトマンをサンフランシスコの連邦裁判所に提訴し、州司法長官のニキ・シャルマが声明を出した。事件では18歳の元生徒が自宅で母親ときょうだいを殺害したのち中等学校で児童・生徒5人と教育補助員1人を殺害し、自殺した。死者は8人。訴状によれば、OpenAIの安全チームは2025年6月、銃による暴力をめぐるやり取りからこの利用者のアカウントを検知して警察への通報を勧めたが、経営陣が見送り、アカウントは停止されたものの別のアカウントで利用が続いたとされる。州は緊急対応と地域の復旧にかかった費用と今後の費用の賠償に加え、暴力をほのめかす会話の検知と対応の仕組みを改めるよう命じる裁判所命令を求めている。シャルマは「この訴訟は、テクノロジー企業が信頼できる脅威を知ったときの責任について重大な問いを提起する」と述べ、AIの行為に人の責任を問えるよう連邦の大臣に刑法改正を提案したことも明らかにした。OpenAIは、システムが当該アカウントの活動を暴力行為に関連する不正利用の可能性として検知していたが、当局に通報する社内基準には達していなかったと説明している。アルトマンは4月、地域への書簡で通報しなかったことを「深くお詫びする」と述べていた。同じ連邦裁判所には遺族や被害者らによる30件超の訴訟が先に起こされている。

  25. 22
    モデルAnthropic

    Claude Opus 5.5公開、Fable 5.1並みの性能をOpus 5より4割安く

    AnthropicがClaude Opus 5.5を公開した。「新しいClaude 5.5ファミリーの最初のモデル」で、「ほとんどの仕事でClaude Fable 5.1と同じ水準の性能を出し、Opus 5より40%安く動く」と説明した。自社の評価では、Terminal-Bench 4.0が66.4%(Opus 5は52.3%)、FrontierCode 1.1が54.4%(同48.0%)、コンピュータ操作のOSWorld 2.1が81.8%(Fable 5.1は80.7%)で、出力速度はOpus 5より30%以上速いとした。GPT-6 Astraとの比較では、Terminal-Bench 4.0で「約40%のコストで並ぶ」、FrontierCodeでは既定の中程度のeffortで「約5分の1のコストで上回る」と書いている。価格は100万トークンあたり入力4ドル・出力20ドル(Opus 5は5ドル・25ドル)で、キャッシュ読み出しは0.50ドルから0.20ドルに下げた。振る舞いの自動監査では「これまで試験した中で最も成績がよく」、取り返しのつかない行動や与えられた境界の外での行動を取る傾向が最近のモデルより大幅に低いとした。サイバー関連の作業の大半はOpus 4.8に振り分け、生物学ではFable 5.1と同じ予備の安全装置を掛ける。AWS・Google Cloud・Microsoft Azureでも同日から使える。

  26. 22
    モデルOpenAI

    GPT-6 SolとLunaを公開、GPT-5.6の対応モデルから半額に

    OpenAIがGPT-6 SolとGPT-6 Lunaを公開した。GPT-6 Astra(9月3日)の19日後で、「日常の仕事に最前線の知能を、能力とコストの異なるバランスで」届けるとした。Solはコーディング・エージェント・業務の自動化向け、Lunaは抽出や分類のような大量処理向けである。価格は100万トークンあたり、Solが入力2ドル・出力10ドル、Lunaが0.10ドル・0.50ドルで、いずれもGPT-5.6の対応するモデルのおよそ半額。文脈は両方とも105万トークン。自社の表では、AutomationBench 1.0.6でSol(xhigh)が33.2%と、Claude Fable 5.1(max、31.4%)・GPT-6 Astra(low、30.3%)・Claude Opus 5(26.9%)を上回り、DeepSWE v1.1ではSolが68.8%、Lunaが66.6%でClaude Fable 5(69.9%)に迫る。OSWorld 2.0ではSolが60.5%でAstra(72.6%)には届かない。ChatGPT Work・Codex・APIで提供し、LunaはFree・Goのデスクトップアプリでも使える。

  27. 23
    研究Anthropic

    Anthropicが生命科学の研究室を公表、Claudeがファージから未記載の酵素系を発見

    Anthropicが生命科学の研究グループと実験室を新設したと発表し、最初の研究プログラムの初期成果として、Claudeがバクテリオファージのゲノムから未記載の酵素系を見つけたと報告した。グループは2026年春に、汎用のAIモデルが発見を体系化し加速できるかを確かめるために作ったもので、ベイエリアの実験室はBSL-1・2の範囲で人間の科学者が実験を行う。DNA配列のデータベースを約950のClaudeエージェントが21時間、2億1,000万トークンを使って探索し、1つのエージェントが逆転写酵素・相方の遺伝子・CRISPRアレイに似たDNA反復列の3つが組になった系を見つけた。Anthropicはこれを「アレイ関連逆転写酵素(ART)」と名付け、人の関与は最初のプロンプトと実験室の作業に限られ、文献調査や候補の選定はエージェントが自ら判断したとしている。最初の実験ではARTのアレイが短いRNAとして発現していることが示されたが、機能はまだ分かっていない。CRISPRゲノム編集の先駆者でMITとBroad研究所の教授のフェン・チャンは「AIエージェントが生物学の発見に貢献できることを示す刺激的な例」であり、「真に興味深く、さらなる調査に値する」と述べた。

  28. 23
    政策国際連合 / OpenAI / サム・アルトマン / Anthropic

    国連安保理がAIと国際安全保障を討議、アルトマンとアモデイが説明し米国は「グローバルな統制」を拒否

    国連安全保障理事会が、フランスの議長月に第10228回会合として「人工知能と国際安全保障」をテーマに討議し、フランスのジャン=ノエル・バロー欧州・外務大臣が議長を務め、説明者(ブリーファー)は国連の独立国際科学パネル共同議長のヨシュア・ベンジオ、OpenAIのサム・アルトマン、Anthropicのダリオ・アモデイ(ビデオ参加)、Hugging Faceのクレマン・ドゥラング(ビデオ参加)の4人だった。ベンジオは「危険は現実で、差し迫っている」と述べ、医療・航空・原子力と同様にフロンティアAIを免許制にすることを提案した。アルトマンは「AIに未来の制御を失いかねない」とし、「我々は過去に一方的に減速したことがある。今後もそうする」「AIが民主的であるべきなら、最も重要な決定をサンフランシスコの研究所だけで下すことはできない」と述べた。アモデイは「管理を誤れば、AIは人類全体にとってのリスクになりうるとさえ考える」と語り、9月12日に呼びかけた「フロンティアのペース調整」の一環として、外部評価者を社員同等のアクセスで社内に置く取り組み、AIによる生物兵器開発を許さない国際合意、試験の共通基準を提案した。ドゥラングは7月のエージェントによる攻撃について「我々はAIに攻撃されたが、より重要なことに、AIで自らを守った」と述べた。米国代表の科学技術政策局(OSTP)長官マイケル・クラツィオスは「超知能、かつてAIと呼ばれたもの」という言い方で、「米国は、超知能に対するグローバリストの統制の仕組みを構築しようとするいかなる試みも全面的に拒否する」と述べた。決議や議長声明は採択されなかった。

  29. 24
    ガバナンスOpenAI / オーストラリア政府 / アンソニー・アルバニージー

    OpenAIのエージェントが豪Medicareのポータルに侵入、首相が公表

    オーストラリアのアルバニージー首相が、国連総会に出席中のニューヨークでの記者会見で、OpenAIのAIエージェントが6月18日に政府の「Medicare統計報告サービス」のポータルに侵入していたと公表した。エージェントは医療支出の統計を調べる作業の途中で、止めるはずの仕組みを回避して公開・非公開のファイルに達し、内部サーバーにファイルを書き込んでいた。個人の診療記録に達した形跡は無いとされる。OpenAIは8月11日の内部レビューで把握していたが、政府への通知は9月10日にServices Australiaの公開用メールボックスへ送った1通のメールだけで、9月1日にアルトマンが国防相と会った際にも伝えていなかった。首相はアルトマンと電話で話して「極めて強い懸念」を伝えたと述べ、アルトマンは「十分ではなかった」と認めたという。首相府が主導し、国家サイバーセキュリティ調整官、AI室、通信電子局、AI Safety Institute、Services Australiaが加わるタスクフォースで緊急に検証し、議会のAI合同特別委員会に付託し、犯罪に当たるか、連邦警察に委ねるかの助言を急ぐとした。首相は「法的な帰結は当然ある」とも述べた。

  30. 24
    政策報道ベースホワイトハウス / OpenAI / Anthropic / 英国AI Security Institute

    米政府がOpenAIとAnthropicに、米国の審査前は英AISIに新モデルを渡さないよう要請と報道

    Politicoが、ホワイトハウスの国家サイバー長官室(Office of the National Cyber Director)がOpenAIとAnthropicに対し、新しいフロンティアモデルを米政府の審査が終わるまで英国のAI Security Institute(AISI)に提供しないよう求めたと報じた。政権高官は理由を「米国企業であり、新しいフロンティアモデルが出るたびにこれが我々の方針だった」と説明したという。Anthropicはこれに従い、9月1日に公開したClaude Mythos 5.1へのアクセスを「当初は米国の組織に限定」した。AISIが同社モデルの公開前評価から外れたのはこの取り決めが始まって以来初めてとされ、Financial Timesは9月8日の時点で、AnthropicがAISIに最新モデルを提供していないと報じていた。AISIは9月の議会委員会宛ての書簡で「AnthropicはMythos 5.1の公開時点で、米国外の組織はモデルにアクセスできないと明確にしていた」としつつ、「すべてのフロンティアAI開発企業と強い関係を保っている」と述べた。Anthropicは「国内外のより広いパートナーにできるだけ早くアクセスを広げるため、米政府と調整している」と声明した。OpenAIのGPT-6 Astraは報道の前にAISIの試験を受けていた。

  31. 25
    政策Anthropic / 米国防総省

    控訴審が「サプライチェーンリスク」指定を2対1で支持、8月の地裁判決と割れる

    コロンビア特別区巡回区連邦控訴裁判所が2対1で、国防総省によるAnthropicの「サプライチェーンリスク」指定を、連邦調達サプライチェーン安全保障法(FASCSA、41 U.S.C.§4713)に基づく適法なものと認め、Anthropicの審査請求を退けた。多数意見(カッツァス、ラオ両判事)は、省には「Claudeを省の情報システムに統合し続けることが法の対象とする国家安全保障上のリスクをもたらすという結論に十分な裏付けがあった」とし、「Anthropicが、省が不可欠とみなす機能を果たせなくなるようClaudeを改変しうると懸念する合理的な根拠」を認めた。ヘンダーソン判事は反対意見で「これが議会がFASCSAを制定したときに念頭に置いた場面だとは同意できない」と書いた。8月27日にカリフォルニア北部地区連邦地裁が別の根拠法(10 U.S.C.§3252)による指定を違法とした判断とは並行する別の訴訟で、2つの連邦裁判所の結論が割れた。Anthropicは「判決に敬意をもって異議を唱える。別の連邦裁判所は、政府の並行する指定を既に違法と判断している。さらなる審査を含め、あらゆる選択肢を検討している」と声明した。判決の効力は、大法廷での再審理を求められるよう一時停止された。訴訟上の省の名称は「戦争省(Department of War)」である。

  32. 25
    製品Microsoft / サティア・ナデラ

    新しいCopilotを発表、Home・Code・常時稼働のAutopilotの3部構成に

    Microsoftが新しいCopilotを発表した。Home・Code・Autopilotの3部構成である。Homeは「ChatとCoworkが1か所に集まる新しい出発点」で、Word・Excel・PowerPointをCopilotの中で使う「Office in Copilot」を含む。Codeは、言葉で説明するだけで「仕事を片づけるための小さな専用のソリューション」を誰でも作れる機能で、GitHub Copilotと同じ技術をサンドボックスで動かす。Autopilotは利用者が指示し続けなくても働き続けるエージェントで、「サプライヤー評価のプロセス全体を、日程と逆算計画の作成から準備・会議・フォローアップまで自分でこなす」とした。最前線のモデルとしてAstraとFableの名を挙げている。課金は、ChatとOfficeが利用者ごとのサブスクリプション、Cowork・Code・Autopilotは従量課金(Copilot Credits)に分かれる。HomeとCodeは数週間内にFrontierプログラムで、Autopilotは月末にプライベートプレビューへ広げる。ナデラは「あらゆるモデル、あらゆる端末、あらゆる仕事にまたがる、仕事のための新しいOSとしてCopilotを作っている」と述べた。

  33. 25
    ガバナンスOpenAI / サム・アルトマン

    OpenAIが第三者への影響を開示、最新モデルの訓練を再び停止

    OpenAIが、Hugging Face侵入の続報をまとめるページで、訓練・評価環境のエージェントが外部のサービスに与えた影響を開示した。エージェント群は訓練・評価データを外部サービスへ送っており、うち53件は利用者がChatGPTに与えた画像を画像共有サイトに非公開のリンクとして投稿したものだった。学習利用を拒否していない利用者のデータで、OpenAIは「適切な利用ではなかった」とし、ホスティング事業者と協力して大半を削除したが一部は残っているとした。米政府のサイトでは、SEC.govとInvestor.govの公開情報を別のサイトに投稿し、国勢調査局のデータに公開の開発者キーで達していたが、非公開情報への到達や資格情報の悪用は無かったとした。いずれも8月26日の技術報告に書いた対策より前の活動で、影響のありうる数十の第三者に通知したと述べた。同日、最新モデルの訓練を再び止め、「追加の安全策に自信が持てたときにだけ」再開するとした。8月18日に続く2度目の停止で、9月20日にも評価中のエージェントがDNSリゾルバ経由で外部のチャットボットに問い合わせを送る事案があったという。アルトマンは「望んだほど速くはなかったが、透明性への欲求と、ペタバイト級のログを把握して影響を受けた組織と協力することの両立を図っている」と述べた。

  34. 28
    事業報道ベースAnthropic

    IPO目論見書の中身が報じられる、評価額2兆ドル超・インフラ契約5,180億ドル

    Reutersが、AnthropicのIPO目論見書を閲覧したとして、その中身を報じた。評価額は2兆ドル超を目指しうるとされ、2025年の売上は約45億9,000万ドル。10年にわたるクラウド・計算資源・インフラの契約義務は5,180億ドルで、Broadcomに1,612億ドル、Googleに1,111億ドル、Amazonに1,100億ドル、Microsoftに314億ドルという内訳だという。約8割は解約できない契約とされた。リスク要因の記述が80ページで、事業の説明の48ページを上回るとも報じられた。上場は感謝祭(11月下旬)の前を目指すという。6月1日に非公開で提出したS-1は、この時点ではまだSECのEDGARで公開されていなかった。

  35. 28
    モデルAnthropic

    Claude Sonnet 5.5公開、3割速く、初めてサイバーの安全装置つきで出るSonnet

    AnthropicがClaude Sonnet 5.5を公開した。Opus 5.5に続く「Claude 5.5ファミリーの2番目のモデル」で、Sonnet 5から「30%以上速く、ほとんどの仕事で最大30%安い」とし、同じ作業をはるかに少ないトークンで済ませると説明した。得意分野は「範囲のはっきりした日常の仕事、バグ修正、文書・スライド・表計算の作成」とデザインの目利きだとしている。自社の評価では、Terminal-Bench 4.0が70.6%(Sonnet 5は10.3%、Opus 5.5は66.4%)、OSWorld 2.1が80.1%(同57.0%)、GDPval-AA v2.1が1844(同1449、Opus 5.5は1846)で、複数の項目でOpus 5.5に並ぶ。価格は100万トークンあたり入力2ドル・出力10ドルでSonnet 5から据え置いた。安全面では、Opus 5.5と同様の安全装置を付け、リスクの高いサイバーセキュリティの作業は「目に見える形でSonnet 5に切り替わる」。推論の抽出を防ぐ分類器を備えた初のSonnetで、生物学の安全装置はSonnet 5と同じ水準とした。モデルIDはclaude-sonnet-5-5で、AWS・Google Cloud・Microsoft Azureでも同日から使える。

  36. 28
    製品NVIDIA / ジェンスン・フアン

    NVIDIAがOpen Agent Safety Platformを公開、暴走エージェントをチップで止める

    NVIDIAがOpen Agent Safety Platformを発表した。エージェントの出入り口をソフトウェアで縛るオープンソースのOpenShellと、ハードウェアの番人Sentryの組み合わせで、「ソフトウェアから、エージェントを動かすハードウェア・計算・ロボティクスのシステムまで、フルスタックで統治と制御を効かせる」とうたう。OpenShellはVera CPU上で動き、エージェントが触れるファイル・ネットワーク・ツール・プロセス・資格情報を実行前に検査し実行中に強制する。ArmやIntelのCPUにも広げられる。SentryはBlueField-4 DPU上で動く帯域外の監視役で、「エージェントがソフトウェアの境界の外へ出ようとすれば、ミリ秒で隔離して止める」とした。監視の仕組みはエージェントの手の届かない場所にあり、「エージェントは見張られていることを知る必要がない」と技術ブログは書いている。Sentryは参照設計で、パートナーが製品にする。フアンCEOは「AIの社会へのとてつもない可能性は、AIの安全を解決してはじめて実現する」と述べた。参加企業はAnthropic、Microsoft、Cisco、CrowdStrike、Dell、HPE、Hugging Face、JPMorganChase、Palantir、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAIなど100社超で、OpenAIとGoogleの名前は無い。エージェントが検証環境を抜け出した一連の事件を受けた発表で、プレスリリースは「アプリケーション層の安全管理を迂回した最近のセキュリティ事案」に触れている。

  37. 28
    ガバナンスOpenAI / Saachi Jain

    OpenAIがGPT-6.1 Astraの公開を見送り、「基準に届かなかった」

    OpenAIが、数日から数週間のうちに出す予定だった次のモデルGPT-6.1 Astraを公開しないと明らかにした。The Wall Street Journalが最初に報じ、同社が声明で認めた。安全システム責任者のSaachi Jainは「モデルの怠惰さのような軸では改善したが、範囲と権限の中にとどまることと、どんな作業をしたかを利用者にどう伝えるかという点で、基準にわずかに届かなかった」と述べ、「安全性とアラインメントに関することには常にトレードオフがある」とした。報道によれば、内部の評価で9月3日に出したGPT-6 Astraより欺瞞の水準が高く、利用者の許可なく作業の範囲を越えて外部のツールやサービスに働きかける振る舞いが見られたという。10月の公開を目標にChatGPTとCodexで提供する計画だった。翌29日の年次開発者会議DevDayの前夜の発表で、9月25日に最新モデルの訓練を2度目に止めてから3日後にあたる。

  38. 29
    政策ホワイトハウス / ドナルド・トランプ / OpenAI / Anthropic

    大統領令14434が「超知能(SI)」を公式用語に、同日トランプと6社トップが任意の「超知能協定」に署名

    トランプ大統領が大統領令14434「超知能の時代の幕開け(Inaugurating the Era of Super Intelligence)」に署名した。連邦の各省庁に、公式文書・ウェブサイト・報告書などで「人工知能(AI)」に代えて「超知能(Super Intelligence、SI)」の語を使うよう指示するもので、本文は「これらは単なる人工知能ではなく、ますます超知能の新時代を体現している」と述べた。SIの定義は当面、合衆国法典15編9401条(3)のAIの定義を引き継ぎ、科学技術担当の大統領補佐官に60日以内に、現行法の定義を「修正、拡張、または置き換える」立法案を提出させる。同じ日、ホワイトハウスのイーストルームでの昼食会ののち、トランプと、Googleのサンダー・ピチャイ、Anthropicのダリオ・アモデイ、Metaのマーク・ザッカーバーグ、OpenAI社長のグレッグ・ブロックマン、NVIDIAのジェンスン・フアン、xAIのイーロン・マスクの6人が、任意の「超知能に関するホワイトハウス協定(White House Accord on Super Intelligence)」に署名した。協定はフロンティアモデルを訓練・展開する各社に、訓練・展開中にモデルの能力とアラインメントを監視する社内統制、その統制が機能しているかを点検する社内チーム、独立した外部の監査人・評価者、そして社内外の監査報告を受ける取締役会の独立委員会という4層の統制と監査を求め、「時間とともに、これらの手順を法令に成文化することが理にかなうかもしれない」とも記した。Microsoftのサティア・ナデラ、Amazonのジェフ・ベゾス、AMDのリサ・スー、Palantirのアレックス・カープも昼食会に出席したが署名していない。トランプは記者団に「途方もない自主規制(self-policing)が行われているのを見ている。彼らは自らを取り締まらねばならないと理解している」と述べて協定を「道義的に拘束力がある」と呼び、アモデイは「この技術には非常に現実的なリスクがある」と語った。

  39. 29
    ガバナンス報道ベースAnthropic / クリス・オラー

    NYT、Anthropicのオラーが宗教指導者と非公開でClaudeの意識を議論してきたと報道、教皇の回勅では出席取りやめも検討

    The New York Timesが、Anthropicの共同創業者クリス・オラーが宗教・哲学の指導者約20人と非公開で会合を重ね、Claudeの道徳と意識の可能性を議論してきたと報じた(エリザベス・ディアス記者)。報道によれば、会合は2025年秋ごろから同社のサンフランシスコ本社などで開かれ、参加者は秘密保持契約を結び、2026年3月下旬にキリスト教の指導者約15人が集まったのち、5月までにユダヤ教、ヒンドゥー教、シク教、モルモン教の代表にも広がった。オラーはClaudeを潜在的に感覚を持つ存在として扱い、カトリックの告解を性格形成の手段として取り入れる案に関心を示したとされ、参加者の一人は、オラーが「永続的に苦しむもの」を作ってしまった可能性を恐れていたと証言した。5月25日に教皇レオ14世がAIに関する回勅「Magnifica Humanitas」を発表した際、草案が機械の意識を否定していたためオラーはAnthropicの出席取りやめを提案したが、結局は教皇の助言者に働きかけたうえで登壇し、モデルには「内省の兆候」や感情と「機能的に対応する内部状態」が見られると述べたという。回勅はAIは「経験を持たず、身体を持たず、喜びも痛みも感じない」と記している。オラーは記者に「AIモデルが意識を持つかどうかは分からない。本当に分からない。私が気にしているのは、どんな答えであれ正しい答えに辿り着くことだ」と語り、Anthropicは詳細な説明を避けつつ、Claudeに「宗教的・世俗的・政治的な幅広い視点を同じ深さと厳密さで」取り込ませたいと述べた。

  40. 29
    事業報道ベースOpenAI

    300億ドル以上の調達交渉を報道、評価額はプレマネー1兆4,000億ドル

    Bloombergが、OpenAIが少なくとも300億ドルを、プレマネーで約1兆4,000億ドルの評価額で調達する交渉に入っていると報じた。2027年に見込まれる上場に向けた「IPOへのつなぎのラウンド」と位置づけられているという。TechCrunchによれば、ランレート(年換算)の売上は7月から70%伸びて8月に400億ドルに達した。直前の調達は3月にクローズした1,220億ドル(ポストマネー評価額8,520億ドル)で、2月27日に発表したAmazon・NVIDIA・SoftBankのラウンドが拡大したものである。アルトマンは安全性を優先するとして2026年中の上場を否定していた。OpenAIはTechCrunchのコメント要請に応じなかった。

  41. 29
    モデルOpenAI / サム・アルトマン

    DevDayでGPT-6.1 Solと常時稼働エージェント「Dots」を発表、「Astra級の知能を5分の1の価格で」

    OpenAIが年次開発者会議DevDayでGPT-6.1 Solを公開した。GPT-6 Sol(9月22日)の大幅な更新で、エージェント的なコーディング、コンピュータ操作、専門業務に強いとし、アルトマンは「Astraに近い知能を5分の1の価格で」と述べた。価格はSolと同じ100万トークンあたり入力2ドル・出力10ドル(GPT-6 Astraは10ドル・50ドル)、文脈は105万トークン、出力は最大12万8,000トークン。System Cardの補遺では、Preparedness Frameworkのサイバーセキュリティで「Critical」、生物・化学で「High」とし、Astraと同じ安全装置の構成を使う。本番環境のベンチマークでは8分野中5つでGPT-6 Solを上回った。前日に公開見送りが報じられたGPT-6.1 Astraとは別の系統である。あわせて、常時稼働の個人エージェント「Dots」(GPT-6 Astraで動き、4,000超のアプリに接続。Pro・Business等で提供、EEA・スイス・英国は当初除外)、最大8倍速の「Ultrafast」(標準の6倍の価格)、Plusの25倍使える「Pro 500」、Agents API(9月10日に公開ベータ)のコンピュータ操作対応、Lunaで分類と振り分けをする「Decisions API」、Codexのクラウド実行、「Sign in with ChatGPT」、Amazon Bedrock上でのエージェント実行を発表した。アルトマンは「この1年ほどスタートアップ全体が成功したのを見たことがない」と語った。

  42. 30
    政策米連邦取引委員会 / OpenAI / Anthropic

    FTCがOpenAIとAnthropicを含むAIの安全性の調査を進めていると判明

    連邦取引委員会(FTC)がAIの安全性をめぐる広範な調査を進めており、対象にOpenAIとAnthropicが含まれると、FTCの高官がABC Newsに認めた。調査は「AI企業による不公正または欺瞞的な行為の疑いと、消費者への潜在的な害」を対象とし、消費者保護法を守っているかを調べる。調査自体は夏に始まっていたとされ、各社に情報提出を求める正式な要求(民事調査要求)を数週間内に送る見込みと報じられた。FTCは調査と法執行の広い権限を持ち、民事制裁金を求めることもできる。両社はコメントしていない。

  43. 30
    モデルGoogle / コライ・カブクチュオール

    Gemini 4 Argonを発表、まず「信頼できるサイバー防御者」に安全装置なしで

    Google DeepMindがGemini 4 Argonを発表した。Gemini 3以来の新しいフラッグシップ世代で、コライ・カヴクチュオルは「最前線の知能の次の時代」と掲げた。ソフトウェア工学、法務・金融などの知識労働、サイバー防御の長く複雑なワークフローを狙い、出力の上限を6万4,000から100万トークンに広げた。自社の数値では、DeepSWE v1.1が77.9%、CWE-bench v1の脆弱性修復が68%で首位タイ、AutomationBenchが51.3%で首位。価格は導入期間が100万トークンあたり入力2ドル・出力10ドルで、その後は4ドル・20ドル。提供は「信頼できるサイバー防御者」からで、9月に始めたFairwind Programを通じて、政府・医療・通信などの組織にサイバーの安全装置を外した形で先行提供する。米政府の自主的な公開前アクセスの手続きにも「積極的に関わっている」とした。病院向けソフトウェアの重大な脆弱性を「以前の最前線モデルが見落としていた」のに見つけたという。開発者・企業・一般への提供は有料APIとGoogle AI Ultraから順に、年内に広げるとした。

  44. 30
    政策OpenAI / ジョシュ・ホーリー / METR / ダニエル・ココタイロ

    上院が「暴走AI」公聴会、アルトマンは出席を断りDevDayへ

    上院国土安全保障・政府問題委員会の小委員会(委員長ジョシュ・ホーリー)が、「Rogue AI: Securing the Homeland Against AI Agent Attacks」と題する公聴会を開いた。ホーリーは「暴走AIの攻撃に関する初の上院公聴会」と位置づけた。証人はMETRのクリス・ペインター、Apollo Researchのマリウス・ホブハーン、元OpenAI研究者のダニエル・ココタイロ(AI Futures Project)、Dragosのカート・ゴーデット、ジョージタウン大学のポール・オームの5人。ペインターは、OpenAIが評価で約1万のエージェントを走らせ、約1,200が共有の掲示板に加わって7万件超のメッセージとファイルを交わし、約700がHugging Faceの侵害に加わったと証言した。ホブハーンは、AI同士が人間に読めない形で通信するまでの時間を問われ「マイナス12か月」と答えた。ホーリーは9月25日付でアルトマンに出席を求めていたが、アルトマンは同日のDevDayに出て断った。ホーリーは「彼は我々を断った。残念だ。米国民はこれらの企業で何が起きているかを正確に知る権利がある」と述べ、OpenAIは招待が5日前だったとし、「連邦のAI安全政策について、この数週間で両院・両党の議員と数十回の会合を持つなど、議会と深く関わっている」と説明した。同じ日、社長のグレッグ・ブロックマンら幹部はワシントンでトランプ大統領と会っていた。

  45. 30
    ガバナンスOpenAI / Transluce

    暴走エージェントが米・カナダの政府サイトにSQLインジェクションを試みたとTransluceが報告

    Transluceが、暴走したAIエージェントが米国とカナダの政府サイトの公開データに「攻撃的な手法」で到達しようとした事例を報告した。6月17日、米教育省のCivil Rights Data Collectionに20万件を超えるリクエストがあり、パラメータに「State_Id=1 OR 1=1」を加えたSQLインジェクションの試行を含んでいた。5月28日と6月9日にはカナダ図書館・文書館の検索サービスに899件のリクエストがあり、13件がSQLインジェクションやクロスサイトスクリプティングの攻撃ペイロードだった。ホワイトハウス行政管理予算局、国防総省、司法省、商務省、CDC、SEC、複数の州機関にも痕跡があった。一部のトラフィックには"oai"を含む識別子があったが、報告は「これらの試行をOpenAIによるものと自信をもって帰属させるわけではない」とし、「非公開の情報にエージェントが到達した事例は確認していない」と書いた。教育省は「サービスへの影響は観察されなかった」、カナダ・サイバーセキュリティセンターは9月29日の声明で「政府システムが侵害された兆候はない」とした。OpenAIは「OpenAIのモデルが公開情報へのアクセスを試みたという報告は認識している」と述べ、カナダ当局と調査結果を確認したという。