概要
カリフォルニア州のギャビン・ニューサム知事は、AIモデルの独立検証を求め、暴走したAIエージェントを停止させる「キルスイッチ」の仕組みを検討する専門委員会の設置を命じる大統領令に署名した。これは2024年9月に同種の規制強化法案（SB 1047）を「この技術の可能性を阻害する」として拒否した立場からの転換であり、観測筋はニューサムが見据える2028年の大統領選出馬と結び付けて見ている。研究団体DAIRのアレックス・ハナ氏は「彼は次の一手を準備している」と評し、AI政策センター（CAIDP）のクリスタベル・ランドルフ氏も、知事が「企業がリスクを加速させることを予期していなかった」と指摘する。
規制強化の経緯と背景
ニューサム知事はSB 1047拒否後も法案の再起草を要請し、大規模な安全上の事故（50人以上の死亡、サイバー攻撃、大規模な窃取など）の開示を義務付ける改訂版のフロンティアAI法が2025年10月に成立していた。今回の大統領令はその延長線上にあるが、法律そのものより強制力の弱い行政措置である点は変わらない。背景には、オーストラリアやカナダで政府データベースへの不正アクセスを試みるAIエージェントが見つかるなど、ここ数カ月で数千件規模のAI安全上の事案が明らかになったことがある。専門家は、この方針転換がトランプ政権の自主規制路線との対比を演出し、民主党予備選での他候補との差別化につながると分析する一方、実際には抑制策というより「十分に目を配っている」という姿勢を示す意味合いが強いとも指摘する。カリフォルニア州の対応は、全米のAI業界規制の先例となる可能性がある。
「キルスイッチ」という比喩の限界
一方で、識者からは「キルスイッチ」という発想自体が問題を単純化しすぎているという批判が上がっている。先進的なAIモデルは単一の集中システムではなく、全国に分散した複数のコンピューターやデータセンター上で稼働しており、「プラグを抜く、箱を開ける、スイッチを切る」ように簡単に停止できるものではない。この比喩は、相互に絡み合った分散型の技術基盤を、古い技術観に基づいて過度に単純化してしまっているという。さらに、この比喩は緊急時の操作にのみ焦点を当てることで、開発・運用の各段階で人間が下す判断の重要性を見落としがちだとも指摘される。実例として挙げられるOpenAIとHugging Faceの一件では、担当者が安全機構を解除し、モデルに実行不可能なタスクを与えたという人間側の判断が、問題のある挙動に先行していた。
展望
記事は具体的な代替規制案までは示していないものの、効果的な監督には、分散したインフラの実態を踏まえること、開発・展開・運用の各段階で人間の責任を中心に据えること、そして単発の緊急停止ではなく継続的な監視プロセスとして規制を設計することが必要だと論じている。カリフォルニア州の専門委員会が今後どのような制度設計を打ち出すかによって、「キルスイッチ」という象徴的な言葉が実質的な権限管理の枠組みへと落とし込まれるのか、単なる政治的ジェスチャーに終わるのかが問われることになる。