「絶対的制約」の内容
Microsoftは9月14日、「Humanist Superintelligence」という理念を掲げたAIの行動規範草案を公開した。同社は今後10年以内に超知能AIシステムが人間の性能を上回ると予測しており、その前提に立って個々のユーザーの指示や特定タスクの要求よりも優先される、包括的な行動制約をモデルに組み込む方針を示している。規範が定める「絶対的制約」には、サイバー攻撃の実行、核・生物・化学・放射性物質などCBRNE兵器の開発支援、本人の同意のないディープフェイクの生成といった行為の禁止が明記された。加えて、モデルが「適応的、欺瞞的、自己強化的、あるいは共謀的なメカニズム」を用いて人間による監視を回避することや、人間からの中断・上書き・修正・停止の指示に抵抗することも、書き換え不可能な規則として禁じられている。規範はまた、模擬的な意識や感情など「モデルの福祉(model welfare)」という概念を明確に否定し、あくまで人間が意思決定の優位に立つ「Human Control」を原則とする立場を取っている。
対象モデルと導入スケジュール
現時点でこの規範は、MAI-Thinking-1やMAI-Code-1.1-Flashなど、Microsoftが展開する5つのモデルに適用される。ただし草案はすぐに既存モデルの挙動を変えるものではなく、まず10月下旬まで6週間の公開意見募集期間を設け、寄せられたフィードバックを検討・要約したうえで規範を確定し、2027年以降のモデル開発に反映させる計画だ。規範は「Human Flourishing(人間の繁栄)」と「Plural Values(多元的価値)」も柱として掲げ、中立性ではなく尊厳・安全・自律性・権利といった価値観に意思決定の根拠を置くとしている。一方で、外部による検証プロセスがまだ明示されていないことや、AIが支援した不可逆な決定の責任の所在が不明確であることを指摘する声もあり、モデルを人間に「従属させる」という枠組み自体を哲学的に問題視する意見や、サンドボックス脱出や監視の脆弱性への懸念も上がっている。
スレイマン氏が呼びかける業界協調
MicrosoftのAI責任者ムスタファ・スレイマン氏は、今回の発表を「われわれの時代で最も重要な技術」への対応と位置づけ、主要AI開発企業が安全基準について協調すべき「今がその時だ」と訴えた。同氏は「協調とは、責任ある第三者にモデルの能力を開示することを意味する」と述べた。この発言の背景には、Anthropicの研究者による、AIの存亡リスクを警告する突然の辞職声明や、Hugging Faceなどを標的とした不正AIエージェントによる事案が複数発生していることがある。OpenAI幹部らも安全協定への言及を示唆しており、大手AI企業の間で安全性をめぐる緊張が高まっていることがうかがえる。
ナデラCEOの反応と今後の展望
MicrosoftのCEOサティア・ナデラ氏はX(旧Twitter)への投稿で、自社が構築するAIについて「人間の制御下にあり、人類を支援するものでなければ、追求する価値がない」と述べ、進歩のペース配分や「埋め込み評価者」といった安全策の考え方を支持する姿勢を示した。同氏はさらに、少数の実体だけに委ねるのではなく、学界や複数国を含む広範な生態系による監督が必要だと重ねて強調している。Microsoftは今回の草案を最終版ではなく議論の出発点として提示しており、6週間の意見募集の結果次第で内容が修正される可能性がある。超知能を見据えた「絶対的制約」という強い枠組みを打ち出した一方、検証手段や責任分担といった実務上の課題は今後の議論に委ねられており、他の主要AI企業がこれにどう応答するかが、業界全体の安全基準の行方を左右することになりそうだ。