概要
上院議員バーニー・サンダース（無所属、バーモント州）と下院議員グレッグ・カサール（民主党、テキサス州）は9月23日、人間の認知能力を全般的に超える「超知能」AIの開発・展開を連邦レベルで禁止する「Ban Artificial Superintelligence Act」法案を米議会に提出した。禁止対象は、人類の存続を脅かしうる能力を持つAIシステムに加え、核・化学・生物兵器の設計能力向上、人間を欺く能力、自らの機能を書き換える能力といった「超知能の前駆的特性」を示すAIも含む。連邦の安全規制体制が整うまで先進AI開発を一時停止することを求める内容で、違反した企業や個人には最大20年の禁固刑を含む罰則を科すとしている。
法案の骨子と新設機関
法案の中核は、新たな連邦機関「人工知能省」の設立にある。同省は高度AI開発の一時停止を監督し、開発者に対して開発前の計画提出を義務付け、一般公開前の配備には同省の最終承認を要求する。さらに、AI安全に関する規則制定権限も持つ。国際的な側面では、国務省と連携し、中国を含む主要国との間で超知能開発を禁止する国際協定の締結を目指す方針も示されている。
提案の背景と評価は分かれる
この提案は、習近平国家主席とトランプ大統領がワシントンで会談していたタイミングで行われた。トランプ政権はAI開発を対中競争の観点から位置づけ、「超知能」という表現を好んで用いる傾向があり、両議員の法案はこうした競争重視の論調に一線を引く狙いがあるとみられる。サンダース議員は「技術業界がAIの進む方向を把握していないのは実に馬鹿げている」と述べるとともに、「(開発企業の)指導者たちが自らの制御を失いつつあると認めているのなら、それでも開発を進めさせるのは無責任だ」と述べ、チェルノブイリ級・パンデミック級の災害リスクや民主的制度への脅威を懸念していると説明した。一方カサール議員は、AIが医学的なブレークスルーをもたらす可能性を認めつつ、「他の産業では自主的なコミットメントだけでは機能してこなかった」として、強制力ある国内規制の必要性を訴えている。
議会内外の反応は一様ではない。ロー・カナ下院議員は、中国との間で検査体制や安全基準について基本合意を結ぶよう呼びかけており、国際協調を重視する立場を示した。業界側では、セキュアAI同盟のブレンダン・スタインハウザーCEOが「超知能のリスクを真摯に受け止める価値はある」としながらも、今回の法案よりも「より慎重なアプローチが必要」との条件付きの見解を示しており、規制の設計や範囲を巡って今後も議論が続く見通しだ。