OpenAIが、人間より賢いAIシステムを制御するためのアラインメント研究チーム「Superalignment」の発足を発表した。チーフサイエンティストのイリヤ・サツケバーとヤン・ライケが共同で率い、確保済み計算資源の20%を投じて4年以内に超知能のアラインメント問題の解決を目指すとした。安全性研究への大規模なコミットメントとして注目を集めた。
52023年7月
研究確認済み
Superalignmentチーム発足
関係者
タグ
- safety
- alignment
出典
その後わかったこと
2024年5月17日 · 続報
2024年5月、共同リーダーのイリヤ・サツケバーとヤン・ライケが相次いで退社し、 Superalignmentチームは発足から1年足らずで解散した。ライケは「安全性の文化と プロセスが華やかな製品の後回しにされてきた」と批判し、残るメンバーは 社内の他チームに再配置された。