AnthropicとGoogle DeepMindの研究者が同じ週に相次いで退社を公にし、AI開発の競争に警告を発した。Anthropicで事前学習の研究をしていたジェイコブ・コクソンは、9月8日夜(米西海岸時間)にXで「今日Anthropicを辞めた。この3年、OpenAIとAnthropicで事前学習の研究をしてきた。どちらの会社も責任ある行動をしていない」「自己改善する超知能へまっすぐ突き進み、私たちの命を賭けている」と投稿し、TechCrunchによれば研究所間のペース調整の合意を求めた。同じ週、Anthropicで安全研究チームを率いていたジョー・ベントンと、Google DeepMindで安全研究をしていたJosh Engels(ジョシュ・エンゲルス)が、それぞれ退社して評価機関METRに加わるとNBC Newsに語った。ベントンは「現状、こうしたリスクについて企業から出てくる透明性は、基本的にすべて任意のものだ」、Engelsは「部屋に大人はいない。皆が最善を尽くしているが、誰も助けには来ない」と述べた。ベントンは9月11日に自身のSubstackで2週間前にAnthropicの安全チームを離れたと書き、「ジェイコブと同じく、AI企業は社会に前例のない水準のリスクを課す道筋にあると考えている」とした。AnthropicはTechCrunchの取材に即答しなかった。
92026年9月
人事確認済み
Anthropicの研究者が「命を賭けている」と公然と退社、安全研究者2人はMETRへ
関係者
本文で触れているもの
この出来事の当事者ではありませんが、本文に名前が出てくるものです。
タグ
- departure
- safety
- talent
出典
- 'Gambling with our lives': Anthropic researcher quits, warns against self-improving AIen
- The AI Tipping Point (TIME)en
- Two AI researchers leave Anthropic and Google over safety concerns: 'There are no adults in the room'en
- Why I left Anthropic's safety team (Joe Benton)en
- More Researchers Are Quitting Anthropic And Google. Warning About Where AI Is Headed Escalate.en
- Another Anthropic researcher warns of AI race risks after quittingen