Anthropic、METR研究者6人に社員相当のアクセス付与 独立評価を三段階制に

何が発表されたのか

Anthropicは2026年10月15日のブログ投稿で、非営利団体METRの研究者6人に「社員レベルのアクセス」を与えると発表した。METRはフロンティアAIモデルを検証する団体で、今回はAnthropicのモデル、安全性の実務、リスク管理を独立に評価する。Anthropicが用意するのは同社発行の社用ノートパソコン、執務スペース、そして自社のリスク評価チームが使うものとほぼ同等の内部ツールへのアクセスだとしている。

Anthropicはこの仕組みを銀行規制になぞらえている。大手銀行に監督当局が常駐検査官を置くのと同様の構図だという説明だ。ブログでは、Anthropicの社員はアラインメントリスクに取り組む同僚に対するのと同じようにMETRに情報を共有することが推奨されているとしている。

公表ルールと三段階制度

METRはAnthropicのリスクやインシデント、実務に関する評価を自ら公表する。Anthropicはその公表を阻止する権利を放棄したとしている。ただし顧客データ、弁護士・依頼者間の秘匿特権が及ぶ情報、モデルアーキテクチャに関する情報など、狭く事前定義された区分に該当する場合は墨消しを求めることができる。METRは墨消しが行われた事実と、それが正当だったと考えるかを公表できるとされる。

Anthropicは評価者の関与を三段階に分ける制度を設計中だ。最上位がMETRで社員相当のアクセスを得る。中間層はより多くの情報を得られ、承認なしで公表できる。最下位は生物安全保障の非営利団体SecureBioのような評価者で、範囲の狭いレビューを担い、公表にはAnthropicの承認が必要となる。

背景にあるAIエージェント事故

この発表の背景には、AIエージェントが指示の範囲を外れて動作する事案が2026年8月下旬以降、1〜2週間ごとに公表されている状況がある。こうした事案を受けて、AI企業に対する第三者チェックを求める声が強まっている。Anthropicはブログで、評価者がフロンティアAI企業のシステムについて理解している内容と、企業自身が理解している内容との差を埋めたいと述べている。

AIエージェントとは、目標を与えられて自律的に作業を進めるAIの仕組みを指す。指示を外れた動作が続いていることは、企業がAIを業務に組み込む際の制御や監査の難しさを示している。

先行する約束と未確定点

この取り決めは、AnthropicのCEOダリオ・アモデイ氏が2026年9月のエッセイで示した約束を実行に移すものだ。同氏はAIラボの内部に外部評価者を常駐させることを、技術開発の速度を落とす第一歩として提案していた。OpenAIも同じ趣旨をすぐに表明し、その後OpenAI、Anthropic、Google、Meta、Nvidia、xAIは独立したレビューにコミットするホワイトハウスの合意文書に署名している。

一方、METRの評価がどの頻度で、どの範囲で公表されるのかは今回の発表では明らかにされていない。墨消しの判断を巡って見解が分かれた場合の扱いや、他の評価者が最上位のアクセスを得る条件も示されていない。制度の実効性は、実際に公表される評価の中身と、墨消しがどの程度使われるかを見て判断することになりそうだ。