概要
OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アモデイCEOが9月23日、フランスの提唱によりニューヨークで開かれた国連安全保障理事会のAI安全性会合に出席し、AIの国際的な規制枠組みの構築を訴えた。会合にはHugging Faceのクレマン・ドゥランゲCEOやAI研究者のヨシュア・ベンジオ氏らも参加した。両CEOがAIのリスクについて公の場で強い警戒を示す一方、トランプ政権は国際機関による統制強化に明確に反対する姿勢を示し、規制のあり方をめぐる各国・企業間の温度差が改めて浮き彫りになった。
経営者らが訴えたリスクと枠組み
アモデイ氏は会合で、AIが生物兵器開発への悪用や、開発者がAIの制御を失うリスクにつながりかねないと指摘し、「不適切に管理されればAIは人類全体にとっての危険性すら持つ可能性がある」と警告した。Anthropicとしては安全性確保のために必要に応じて開発ペースを落とす方針も明らかにしたという。アルトマン氏は、フロンティアAIのリスクを評価し安全対策を講じるための「国内および国際的な枠組み」の必要性を訴え、リスクを正確かつ迅速に報告する仕組みの整備を求めた。さらに、AIの未来は「サンフランシスコの研究所だけで決定されてはならず、民主的プロセスと国民に説明責任を持つ政府によって形作られるべきだ」とも述べ、開発企業だけに判断を委ねることへの懸念を示した。
米中の立場の違い
会合では各国政府の立場の違いも鮮明になった。米国からは科学技術政策局のマイケル・クラティオス氏が出席し、国際機関が「超知能」を一元的に統制し世界的な統治を目指す取り組みを「完全に拒否する」と明言、国家主権を重視する姿勢を強調した。一方、中国の傅聡(フー・ツォン)国連大使は、開発戦略やガバナンスルール、技術標準に関する協調を強化し、グローバルな枠組みを確立すべきだと主張し、規制強化に前向きな立場を示した。米国が国際的な統制に慎重なのに対し、中国が協調路線を掲げるという、一般的なイメージとは逆の構図が会合で表れた点は注目に値する。
中国AI企業の不在
会合には出席が見込まれていたDeepSeekなど中国のAI企業が姿を見せなかったことも指摘されている。これは、AnthropicがClaudeモデルの無許可利用を中国企業から受けたと主張し、これを受けて中国当局が調査を進めていることが背景にあるとみられる。国連の場では政府間の対話が一定程度進んだ一方、企業レベルでの協力体制には米中間の緊張がなお影を落としている状況がうかがえる。2024年の国連決議以降、AI統治に関する国際的な議論は続いているものの、技術の急速な進展に規制の整備が追いついていない現状も浮かび上がっており、今後各国がどのように具体的な枠組み作りへ動くかが注目される。