概要

米商務省傘下のNIST（国立標準技術研究所）内に設置されたAI標準イノベーションセンター（CAISI：Center for AI Standards and Innovation）は2026年5月5日、Google DeepMind・Microsoft・xAIとの間でフロンティアAIモデルの安全性審査に関する拡大協力協定の締結を発表した。これは以前に結ばれたAnthropicおよびOpenAIとの協定を受けた追加措置であり、主要なAI開発企業を網羅した政府による安全審査体制の構築が進んでいることを示す。規制緩和路線で知られるトランプ政権下において、フロンティアAIの国家安全保障リスク評価に政府が正面から踏み込んだ形となる。

テストの内容と範囲

CAISIが実施するテストは、モデルの公開前に行う「デプロイ前評価」と、公開後のモデルを対象とした「デプロイ後評価」の両方を含む。特筆すべきは、企業が通常の安全機能を意図的に取り除いたモデルに対してもテストを行う点であり、潜在的なリスクの底を把握することを目的としている。すでに公開されていない最先端モデルを含め40以上の評価を完了しているとCAISIは述べる。また、AI・国家安全保障懸念に焦点を当てる省庁間専門家グループ「TRAINSタスクフォース」の支援により、機密環境での評価も実施している。CAISI責任者のクリス・フォール氏は「独立した厳密な測定科学こそがフロンティアAIとその国家安全保障上の影響を理解するうえで不可欠だ」と強調した。

業界の反応と残された課題

Microsoftの責任あるAI担当責任者は「国家安全保障や公共の安全に関する評価は、産業界だけでは実施できない」と述べ、政府との協力体制の重要性を認めた。こうした協定締結の背景には、Anthropicが自社の高度なAIモデルを、ソフトウェア脆弱性の発見能力に関する懸念からリリース前に差し止めた経緯があるとされ、フロンティアAIが持つサイバー攻撃への悪用リスクへの警戒感が業界・政府双方で高まっている。一方で、元ホワイトハウスのサイバー政策担当者は「能力評価の質は、その背後にある脅威モデルと同程度にすぎない」と指摘し、CAISIが何をどのような基準でテストしているのかを公開する透明性が必要だと訴えた。政府による監視体制の実効性を担保するためには、評価基準・手法・結果の開示が今後の課題となる。