概要
Anthropicが、フロンティアAIモデルの公開を連邦判事の承認を経て差し止められる仕組みを盛り込んだAI安全法案を、米議会関係者に非公式に提示していたことが明らかになった。Politicoが10月16日に、ロビー活動を知る3人の関係者の話として報じ、その後Reutersが追随し、TechCrunchやThe Next Webが法案の詳細と業界の反応を伝えた。Anthropicの広報担当者は、この法案が今年公表した「Advanced AI Framework」の提案を反映したものであり、政府に「最も強力なモデルの危険な展開を阻止・抑止する能力」を与えるものだと説明している。法案に対しては商務省から直ちのコメントはなかった。
法案の具体的な仕組み
法案が対象とするのは、生物兵器開発、モデルによる自律的な制御逃避、サイバー攻撃のいずれかに起因し、50人以上の死亡または10億ドル以上の損害につながりかねない「予見可能で差し迫った危機」に限定される。商務省に登録された独立評価者がフロンティアAIモデルを定期的に審査し、こうしたリスクを認めた場合は72時間以内に商務省へ報告する義務を負う。報告を受けた商務省がワシントンD.C.の連邦判事に配布停止を申請する仕組みで、他の政府機関が独自の裁量でモデル配布を止めることは明確に禁止されている。評価者はラボから報酬を受け取ることも認められるが、その報酬額を評価結果に連動させてはならないとされる。危険性の判定基準は、カリフォルニア州のAI安全法SB 53と同様の数値を採用している。
安全保障コミュニティからの批判
この法案の内容が流出すると、AI安全保障コミュニティから強い反発が上がった。超党派で提案されているFRONTIER法と比較して規制が緩く、危険なモデルを止めるためのハードルが高すぎるとの指摘が相次いだ。特に問題視されたのは、評価者に第三者機関によるライセンス要件がなく自己認証で済む点で、これでは評価者同士が最も緩い審査を最安値で提供し合う「評価者ショッピング」競争を招くとの懸念が示された。また、法案に含まれる州法優先排除(プリエンプション)条項についても、Encodeの法務責任者ナサン・カルヴィン氏が、州裁判所が安全保障上の理由でモデルの一時停止を命じることまで禁止してしまうと批判した。
Anthropicの対応と今後の見通し
批判を受け、Anthropicの連邦政府対応責任者アンソニー・チミノ氏は、法案の一部を書き直す方針を明らかにした。優先排除に関する条項は「スカルペルのように狭い」範囲へ縮小し、カリフォルニア州法から引用した危険性のしきい値も再評価するとしている。評価者についても、独立性の基準を強化し「評価者ショッピング」を防ぐ仕組みを検討していると説明した。チミノ氏は「意図をより良く反映させるよう更新を計画している」と述べており、Anthropicが非公式のロビー活動段階にある法案をどこまで軌道修正するかは、今後の議会関係者や安全保障コミュニティとのやり取りの行方にかかっている。