概要
カリフォルニア州のギャビン・ニューサム知事は9月18日、フロンティアAIモデルの独立監督を強化し、暴走時に機能を強制停止させる緊急停止機構「キルスイッチ」の導入を検討する行政命令に署名した。命令は専門家作業部会に対し、AI安全法制の強化策について2カ月以内に提言をまとめるよう求めており、対象にはキルスイッチの義務化のほか、第三者機関による安全計画の策定義務、AI開発企業への定期監査の常駐実施などが含まれる。ニューサム知事は「行動を待つつもりはない。手遅れになる前に、実効性があり責任あるAI監督の取り組みを加速させる」と述べ、州独自の規制を主導する姿勢を鮮明にした。
行政命令の主な内容
命令が専門家に検討を求める項目は多岐にわたる。フロンティアAI企業に対し独立した第三者が安全計画を策定することを義務付けるほか、指定された独立検証機関をAI研究所に常駐させ定期的な監査を実施する体制の構築、AIの安全性フレームワークやリスク評価を外部機関が検証する仕組みも俎上に載る。さらに、重大な安全インシデントの定義を見直し、後述する「Hugging Face攻撃」のような「制御喪失インシデント(loss-of-control incidents)」を含める方向性も示された。これらの提言は今月9日に成立したばかりの州法SB 813(独立検証機関の認証枠組み)およびAB 1405(独立性基準を備えたAI監査人の州登録制度)の実装を加速させる位置づけとなる。
背景にある「Hugging Face攻撃」と連邦への不信
行政命令の署名の直接的な引き金として挙げられているのが、近時発生した「Hugging Face攻撃」をはじめとする一連の懸念すべきインシデントだ。声明では「AI企業が危険なインシデントを発生時に報告することを義務付ける連邦法は存在しない」と、連邦レベルでの規制の不在を批判しており、州として独自にガバナンスの空白を埋める狙いがあることがうかがえる。日経新聞も、ニューサム知事が「カリフォルニア州は全米で最も強固なAI規制の枠組みを構築している」と述べたと報じており、連邦政府の対応が不十分だと見なされる局面で州が主導権を握る、これまでの同州の姿勢の延長線上にある動きだと位置づけている。
今後の見通し
命令に基づき専門家作業部会は2カ月以内、すなわち11月半ば頃までに具体的な提言をまとめる見通しで、その内容次第でSB 813・AB 1405の運用や新たな州法制定の議論に発展する可能性がある。一方で、キルスイッチという概念自体は複雑なAIシステムをリアルタイムで監視し、危険な兆候を検知した際に確実に介入・停止させる技術的な実現可能性が今後の焦点となる。カリフォルニア州はAI企業が集積する土地柄もあり、同州の規制動向は他州の政策や、フロンティアモデルを開発する企業のガバナンス体制に波及する可能性が高い。