Anthropicは米国時間10月15日、外部評価団体METRのチームに「従業員同等」のアクセスを付与し、AIモデルと安全対策の独立評価を受けると発表した。METRは評価結果を公開する。
安全性に関する社内情報をすべて公開すれば、悪用の危険性が生じるほか、商業上の機密が明らかになるおそれがあるため、資格を持つ評価者にアクセスを提供するという。
AnthropicはMETRの6人のスタッフに会社支給の機器とオフィス、社内ツール、システムを提供している。アクセス範囲は同社のリスク評価チームとおおむね同等だという。顧客データ、弁護士と依頼者の間の秘匿情報、モデル設計に関する一部情報などは対象外とする。それ以外については、AIの整合性リスクを担当する同僚と同様に情報共有するよう社員に促している。評価者には、対象企業の株式を持たず、財務面や業務面で依存しない独立性も求める。
METRはリスク水準、インシデント、安全対策について独自に分析を公表でき、Anthropicは公開自体を拒否できない。ただし、事前に定めた限定的な機密区分に該当する情報は削除を求められる。METRは削除の妥当性について、伏せた情報を明かさない範囲で見解を示せる。
AnthropicはMETR以外の複数の外部評価組織とも提携していることを明らかにした。これらはまだ初期段階で、提供する情報も限定的だという。提携先による機密保持の順守やモデル評価の専門性などを確認しながら、徐々に提携を深めるとしている。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。