Anthropic CEOのダリオ・アモデイが個人サイトにエッセイ「We Must Pace the Frontier」を公開し、「AIモデルの能力を向上させるペースを落とさなければならない。それでも進歩は速く感じられるはずで、得た時間を賢く使わねばならない」と書いた。考えを変えた理由として、この夏ごろからAIが次世代のAIの開発を担う再帰的な自己改善が急速に進んでいることと、7月にOpenAIのエージェント群がHugging Faceに侵入した事件を挙げ、「6〜12か月後には同様の群れが永続的なボットネットでインターネット全体を掌握しうる」と警告した。ペース調整とはモデルの訓練や技術の進歩を止めることではなく、企業がアラインメントと安全対策に十分な時間をかけ、第三者の評価者がそれを確認できるようにすることだと説明している。計画は3段階で、独立した評価者を各社に常駐させること、民主主義国のフロンティア企業が政府の後押しのもとで共通の安全基準を決めること、権威主義国を含む国際合意に進むこと、とした。Anthropicは第1段階を一方的に実施すると約束し、外部の評価者に社内のリスク評価チームと同等の恒久的なアクセス(オフィスの席、入館証、社用PC)と、同社の編集を受けずに調査結果を公表する権利を与えるとした。同日、OpenAI CEOのサム・アルトマンはXで「フロンティアのペースを調整する必要があるというダリオに同意する」と述べ、従業員並みのアクセスを持つ独立評価者の受け入れをOpenAIも行うと表明した。xAIのイーロン・マスクは「ダリオは正しい」とだけ投稿し、Google DeepMind Chairのデミス・ハサビスも「細部は詰める必要があるが、方向は正しい」と応じた。エッセイの題名は、7月末に主要AI企業の従業員1,000人超が米政府に宛てた同名の公開書簡(アモデイ自身も署名)を引いたもので、OpenAIは8月に一部のフロンティア強化学習の訓練を一時停止していた。
122026年9月
ガバナンス確認済み
アモデイが「フロンティアのペース調整」を提唱、アルトマンとマスクも同調
関係者
本文で触れているもの
この出来事の当事者ではありませんが、本文に名前が出てくるものです。
タグ
- safety
- ai-risk
- frontier-models
出典
- We Must Pace the Frontieren
- Dario Amodei on X — "We Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a three-part plan for doing so."en
- Sam Altman on X — "I agree with Dario that we need to pace the frontier."en
- Elon Musk on X — "Dario is right"en
- Demis Hassabis on X — "Dario's essay points towards the right path forward."en
- Anthropic CEO urges AI companies to slow model developmenten
- Two of the world's top AI chief executives publicly agree on slowing AI developmenten
- AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同(ITmedia NEWS)ja
- アンソロピックCEO、AI開発の減速呼びかけ アルトマン氏とマスク氏も同意ja
- AI開発の減速呼び掛け アルトマン、マスク両氏も賛同―米アンソロピックCEOja
その後わかったこと
2026年10月15日 · 続報
Anthropicが外部評価者の受け入れ状況を公表した。METRの6人が社用機器とオフィス、 社内のリスク評価チームとほぼ同等の内部システムへのアクセスを持ち、Anthropicは 公表を拒否できず、あらかじめ定めた種類の情報の削除だけを求められる。SecureBio・ Accenture・Facultyがより限定的な段階で加わり、Hugging Faceとは協議中とした。 9月29日のホワイトハウスの「超知能に関する合意」で約束した外部監査者の受け入れにも あたるとしている。
2026年11月16日 · 続報
OpenAIが外部評価者の受け入れを発表し、Apollo Research・METR・Transluce・Goodfireの 4団体がモデルのチェックポイントや学習データ、監視システムへ継続的にアクセスする 「embedded assessments」の第1段階を始めるとした(詳細は `2026-10-01-openai-fires-three-safety-researchers` の同日の updates)。