概要
Google、OpenAI、Anthropicの3社が、フロンティアAIモデルの安全基準を策定する業界自主規制団体「Standards Authority for Frontier AI」の設立を計画していることが明らかになった。米証券業界の自主規制機関FINRA(金融取引業規制機構)をモデルとし、2026年末から2027年初頭の発足を目指す。背景には、トランプ政権下で検討されていた連邦政府主導のAI安全規制の枠組みが、ホワイトハウス内で行政命令草案への十分な支持を得られず停滞したという事情がある。3社は当初、連邦政府の監督下に置かれる機関の設立を望んでいたが、政府主導の実現が難しくなったことを受け、民間主導の自主規制団体へと方針を転換した形だ。
想定されている活動内容
新団体が担う役割として報じられているのは、モデルのリリース前に第三者機関がテストを行う仕組みの整備、AI開発企業が安全・セキュリティ上のインシデントをどのように報告すべきかを定めるルール策定、そして独立系のモデル監査人に対する資格認定制度の構築だ。将来的には団体自らがモデルの安全性テストを実施する可能性にも言及されている。一方で、こうした基準を遵守しない企業に対する具体的な執行権限については、現時点でまだ定められていないという。
参加企業と既存の枠組みとの関係
現時点で参加が明らかになっているのはGoogle、OpenAI、Anthropicの3社のみで、Microsoft、Meta、xAIといった他の主要プレイヤーの参加は報道では確認されていない。ただし一部報道では、これら3社にMicrosoftを加えた4社が2023年に設立し現在も活動を続ける業界団体「Frontier Model Forum」との連携が視野に入っているとされ、Microsoftも関連する議論に加わっているとの言及もある。国連安全保障理事会での議論では、AnthropicのDario Amodei CEOとOpenAIのSam Altman CEOがAIリスク低減に向けたグローバルな基準の必要性で一致したと伝えられている。また、Microsoft社長のBrad SmithもBloomberg Televisionのインタビューで、独立した評価機関や人間が制御可能な停止機構の必要性を訴えている。
自主規制への懐疑論
もっとも、業界自らによる自主規制の実効性には懐疑的な見方も根強い。Bill Gatesは「AIの分野において自主規制だけでは不十分だ」と指摘し、Meta元幹部のNick Cleggも「AI開発企業が自らを規制することはできない」と述べるなど、当事者による基準策定の限界を疑問視する声が上がっている。オープンソース開発者や小規模な競合企業が、大手3社主導で作られる基準の策定プロセスから排除されるのではないかという懸念も指摘されている。政府主導の規制が停滞する中で業界がどこまで実効性のある枠組みを自ら構築できるか、そして執行権限の設計を含めた制度の具体化が今後の焦点となりそうだ。