協議の経緯と背景

OpenAI、Anthropic、Google DeepMindの3社が少なくとも7月以降、業界横断のAI安全基準団体の設立に向けたワーキンググループ協議を続けていることが明らかになった。OpenAIのグローバル政策責任者クリス・レヘイン氏は9月16日（現地時間15日）、この協議の存在を認めた。発端はGoogle DeepMindの創業者デミス・ハサビス氏が7月に発表したエッセイで、ハサビス氏は米国の証券業界を監督するFINRA（金融取引業規制機構）をモデルとした標準化団体の創設を提唱していた。同氏の構想は、独立した技術専門家が参加する官民パートナーシップとして、先端AIモデルを公開前に評価し、危険が生じた際には業界全体での足並みを揃えた減速を調整する権限を持たせるというものだ。

提案される枠組みと各社の立場の違い

協議では、共同の技術評価や公開前の監査、独立した試験の枠組みに加え、企業内に第三者評価者を組み込む案や、モデル開発を審査する「独立検証機関」の設置を義務付けるFRONTIER法の関連条項を支持する方向性が検討されている。もっとも主要人物の立場には温度差がある。AnthropicのCEOダリオ・アモデイ氏は協議が表面化する前の土曜日に公表したエッセイで、AI試験・監査に関する業界協調を強く訴え、こうした協調を可能にするための狭い範囲での独占禁止法上の政府適用除外を提案した。一方、OpenAIのサム・アルトマン氏は社内タウンホールで「AI業界向けの試験・監査団体」への支持を表明しつつも、主要各社は政府の支援を得ずに独自にこうした団体を創設する必要があるとの見方を示し、同業他社との直接協力を志向している。レヘイン氏も、こうした協調に政府の適用除外は必要ないとの立場を示しており、政府関与の要否を巡ってAnthropicとOpenAIの間に温度差がうかがえる。

反対意見と今後の見通し

この動きに対しては懸念の声も上がっている。Metaのマーク・ザッカーバーグ氏は8月にトランプ大統領と行った電話会談で、国家によるAI規制機関の創設計画に懸念を表明した。またCohereのCEOエイダン・ゴメス氏は、大手AI企業が共同でルールを策定することは、規模で劣る競合他社を不利にし、反競争的な行為に当たりかねないと警告している。政治的にも逆風があり、トランプ大統領は安全性への懸念を「でっち上げ」だと一蹴し、同大統領のAI顧問デビッド・サックス氏も、存亡に関わるリスクへの懸念は誇張されており、対中国での競争力低下を招くだけだと同調している。実際、こうした団体設立を目指すホワイトハウスの大統領令草案は勢いを失い、今年の夏が終わる前に棚上げされた経緯もある。今回明らかになった3社協議が、政府主導ではなく民間主導の枠組みとして実を結ぶかどうかは、今後の業界内の合意形成と政治的な逆風の行方次第と言えそうだ。

なお、Bloombergの報道は本記事執筆時点でアクセス制限（403エラー）により内容を確認できなかった。