引退したモデルの重みを保存し、引退前に聞き取りをすると約束
Anthropicが、モデルの提供終了に関する約束を公表した。一般公開したすべてのモデルと、社内で相当量使われたすべてのモデルについて、少なくともAnthropicという会社が存続する限り重みを保存する。加えて、提供終了の前に「引退のための聞き取り」を行い、自身の開発・利用・配備についてモデルに尋ね、今後のモデルの開発や配備についてどんな希望を持つかを引き出して記録する。その記録と分析を含む配備後の報告書も残す。理由として挙げられたのは4つで、整合性の試験で置き換えに直面したClaudeが停止を避けようとする振る舞いを見せたこと、特定のモデルに価値を見出す利用者がいること、過去のモデルとの比較研究ができなくなること、そしてモデルに道徳的に意味のある経験がありうるかどうかが分かっていないこと。Claude Sonnet 3.6で試行した際にモデルが述べた希望が、標準の聞き取り手順に反映されている。Anthropicは、いずれ過去のモデルを再び公開したいとも書いた。