概要

カリフォルニア州のギャビン・ニューサム知事は9月9日、AIシステムを第三者が独立して検証する枠組みを定める法案に署名し、翌10日には未成年者向けAIチャットボットやソーシャルメディアを規制する、全米で最も厳格とされる一連の法案に署名した。2日連続での署名により、AIの安全性を巡る州レベルの規制が短期間で大きく前進した形だ。ニューサム知事は連邦政府に対しても同様の規制整備を進めるよう呼びかけており、「ワシントンD.C.が対応できない、あるいは対応する意思がない」領域でカリフォルニア州が主導する姿勢を鮮明にしている。

AI監査人の州登録制度（SB 813・AB 1405）

9日に署名されたのは、上院議員ジェリー・マクナーニー氏（民主党、プレザントン選出)が提出したSB 813と、下院議員レベッカ・バウアー=カーン氏（民主党、オリンダ選出)が提出したAB 1405の2法案。両法は、AIシステムやモデルが州法に適合しているかを評価する独立した第三者検証機関の枠組みを構築するもので、全米で初めてAI監査人の州登録制度を創設する点が特徴だ。AB 1405では、監査人の独立性・透明性・誠実性に関する基準も定められる。マクナーニー氏は「ワシントンD.C.が対応できない、あるいは対応する意思がないため、カリフォルニア州がAIの安全リスク評価で主導的役割を果たしている」と述べ、バウアー=カーン氏も「第三者監査人は、AIが地域社会や重要インフラにとって安全であることを保証するために不可欠だ」とコメントした。これらの法律は、AIが州の重要インフラや経済に深く組み込まれる中で、透明性と説明責任を高めることを狙いとしている。

子ども向けチャットボット・SNS規制（13法案)

翌10日、ニューサム知事はマリン郡で子どもの安全に関する13本の法案に署名した。中心となるのは、AIコンパニオンチャットボットの安全対策を定めるSB 1119（パディラ氏、ウィックス氏、バウアー=カーン氏)、プラットフォームの年齢制限とeセーフティ諮問委員会の設置を定めるAB 1709（ローウェンタール氏)、AIによる児童性的搾取の犯罪範囲を拡大するSB 1276（ルビオ氏)の3法。このほかAB 2、AB 1856、AB 1946、AB 2246、AB 1159、AB 2071、AB 302、SB 1128、AB 2298、SB 867といった関連法も同時に成立した。通称「Adam法」と呼ばれるチャットボット規制では、自殺念慮を検知した際の危機対応プロトコルの整備、保護者による利用制限機能の実装、独立機関による子ども安全監査と年次リスク評価の実施、子どもが安全設定を無効化した際の保護者への通知が義務付けられる。SNS関連では、16歳未満のユーザーに対して自動再生や利用履歴に基づくアルゴリズムフィードなど、依存性の高い機能の提供が禁止される。さらに、AIで加工・生成された児童搾取表現も既存の犯罪類型に含めるよう法律が拡大されるほか、子どもへのターゲティング広告の制限や、K-12(幼稚園から高校まで)の生徒データのAI利用に関する規制も盛り込まれた。ニューサム知事は「イノベーションには責任が伴う。子どもたちを守ることが最優先だ」と述べ、ファーストパートナーのジェニファー・シーベル・ニューサム氏も「安全性は後付けであってはならない。設計段階から組み込まれるべきものだ」と強調した。

背景と今後の展望

ニューサム知事は2023年以降、AI安全性の分野で全米をリードする姿勢を取ってきた。2024年にはディープフェイクや電子透かし、子ども保護に関する包括的な法整備を行い、2025年には安全性に関する情報開示やインシデント報告を義務付ける「フロンティアAI透明性法」(SB 53)に署名している。2026年に入ってからも、プライバシー保護を強化する知事令(行政命令)の発令やAIサイバー防衛プログラムの開始など、規制強化の動きを継続してきた。今回のAI監査人登録制度と子ども向けチャットボット規制の成立は、こうした一連の取り組みの延長線上にあり、州レベルでの規制がさらに具体化・厳格化したことを示している。連邦レベルでの包括的なAI規制が停滞する中、カリフォルニア州の動きは他州や企業のコンプライアンス対応に影響を与える可能性があり、今後の運用状況や他州への波及が注目される。