2021年

12月

1件

編集部の総括

Anthropicが目指す基準を、論文の形で言葉にする

1日、Anthropicが設立後初の主要論文を公開。汎用の言語アシスタントを、役に立つこと(helpful)、正直であること(honest)、無害であること(harmless)の3つで評価する枠組みを示した。

設立から半年、何を作るかより先に、何をもって良しとするかを研究の形で出している。

このブロックは編集部が書いた総括です。出典付きの記録とは分けて表示しています。

記録1件
  1. 1
    研究Anthropic / アマンダ・アスケル / ジャレッド・カプラン / ダリオ・アモデイ

    Anthropic初の主要論文、HHH基準を提示

    Anthropicが設立後最初の主要論文「A General Language Assistant as a Laboratory for Alignment」を公開した。汎用的な言語アシスタントをアラインメント研究の実験場と捉え、望ましいアシスタントの条件を「helpful, honest, and harmless(有用・正直・無害)」の3語で定式化した。実験では、人間の選好を順位付けして学習する選好モデリングが模倣学習を大きく上回り、モデルサイズに対してより良くスケールすることを示した。アシスタントに何を求めるのかを、性能ではなく3つの性質として書き下した点に特徴がある。