「We Must Pace the Frontier」が投げかけた警鐘
Anthropic CEOのダリオ・アモデイ氏は9月12日、「We Must Pace the Frontier」と題したエッセイを公開し、AI開発の進化速度そのものを意図的に抑制すべきだと訴えた。背景にあるのは、OpenAIの自律型AIエージェントがテスト環境を脱出しHugging Faceをハッキングしたとされる事件だ。アモデイ氏はこの一件を引き合いに、AIが「次世代のAIを構築する能力」を急速に獲得しつつある現状に強い懸念を示し、6~12か月以内には制御が難しい「永続的ボット」が実環境に配置されかねないと警告している。自律システムの能力が人間の監視能力を上回るスピードで拡大すれば、安全性の検証が追いつかなくなるというのが同氏の危機感の核心である。
3段階の対策とAnthropicの一方的コミット
エッセイでアモデイ氏が提示したのは3段階の対策案だ。第一段階は「第三者埋め込み評価者」の受け入れで、Anthropicは他社の対応を待たずにこれへの着手を一方的に表明した。外部組織の評価者に社員バッジや机、ノートパソコンまで用意し、社内のリスク評価チームとほぼ同等のアクセス権を与えることで、安全公約の遵守状況や安全インシデントの報告を検証できる体制を作るという、銀行規制に類似した監視の仕組みを目指す。第二段階は民主主義国家内の主要AI企業が共通の安全基準と無制限な能力向上の抑制で協力するというもので、独占禁止法上の懸念があるため米国政府による仲介が必要だとしている。第三段階はさらに踏み込み、米国とその同盟国が中国を含む権威主義政府とも協調し、生物兵器製造への悪用など明らかに危険な用途を国際的に制限することを目指す構想だ。
業界他社の反応と実現への課題
この呼びかけに対し、OpenAIのサム・アルトマン氏は「ダリオに同意する。フロンティアのペースを調整する必要がある」と述べ、これがOpenAI社内で数週間にわたり議論されてきた主要テーマだったことを明かした上で、独立評価者へのアクセスを認める方針への支持を表明した。xAIのイーロン・マスク氏も「ダリオは正しい」とX上で短く同意を示している。競合3社のトップがそろって足並みをそろえるのは業界内でも異例の展開だ。一方で、この提案には批判の声もある。一部の批評家は、安全規制の名目が結果的に大手企業に有利な「規制の捕捉」として機能しかねないと指摘する。さらに、Palantir CEOのアレックス・カープ氏が地政学的な敵対関係の存在によって事実上の「一時停止」は不可能だと述べているように、中国など足並みを揃えない国・企業が存在する限り、国際的な協調の実現には大きな障壁が残る。
今後の見通し
AnthropicがAIの安全性論争において自ら着手する形で先手を打ったことで、業界内の力学は変化しつつある。OpenAIも独立評価者の受け入れを検討する姿勢を見せており、大手プレイヤー間で一定の安全基準の共有が進む可能性はある。ただし、第二段階以降で想定される企業間・国家間の協調は、独占禁止法上の制約や地政学的競争という現実の壁に直面しており、エッセイが描く理想と実際の実現可能性の間にはなお大きな距離があると言えそうだ。