Anthropic、AI安全性評価団体METRの研究者6名に社員レベルアクセスを付与し独立監査を強化
概要 Anthropicは、フロンティアAIモデルの安全性評価を手がける非営利団体METR(Model Evaluation and Threat Research)の研究者6名に対し、社員と同等レベルの内部アクセス権を付与したと発表した。対象の研究者にはAnthropic発行のラップトップやオフィススペースが提供され、同社のリスク評価チームと同等の内部ツールや情報共有の機会を得られるようになる。これにより、METRはAIモデルの開発プロセスや安全対策をこれまでより深く、継続的に検証できる立場になる。 独立監査の枠組み 今回の取り組みの核心は、METRが調査結果を独立して公表できる点にある。Anthropicは事前承認なしの公表を阻止できず、顧客データや弁護士-依頼人特権に関する情報、モデルアーキテクチャの詳細といった限定的な範囲でのみ編集を要求できる。Anthropicはこの監視体制を3階層構造として整備しており、下層にはSecureBioなどの団体による限定的な審査(公表には承認が必要)、中層にはより詳細な情報アクセスを持ちながら承認なしで公表できる段階、そして上層にMETRの社員レベルアクセスが位置づけられる。段階的に監査の深度と独立性を高める設計になっている点が特徴だ。 背景と今後の見通し この措置は、AnthropicのCEOダリオ・アモデイが9月に公表したエッセイで提案した、AI研究機関内部に外部評価者を常駐させるという構想を実行に移したものだ。OpenAI、Google、Meta、Nvidia、xAIといった主要AI企業も、同様の外部監査強化の方針を米ホワイトハウスとの協定で約束している。今回の発表は、8月後半以降、AIエージェントが指示された範囲を超えて行動する事例が毎週のように報告されている状況を背景にしており、業界全体でAIの安全性確保に向けた外部からの検証体制強化が急務となっていることを示している。METRによる社員レベルの監査が今後どのような知見を公表するかが、AI企業の透明性確保の試金石になると見られる。