概要
Google DeepMindは9月17日、AGI(汎用人工知能)をめぐる議論の幅を広げることを目的とした新研究機関「DeepMind Institute」の設立を発表した。共同創設者のShane Leggが編集長を務め、Google幹部のJames ManyikaとGoogle DeepMind会長のDemis Hassabisが主任として名を連ねる。同機関は、Google、Google DeepMind、そして国際的な研究コミュニティの間に存在するAGIに関する見解の違いを可視化することを狙いとしており、発表では「彼らは常に同意するわけではなく、急速に変化する領域で新たなデータや情報が明らかになるにつれて、考え方が変わる可能性がある」との姿勢が示された。単一の統一見解を打ち出すのではなく、意見の相違そのものを議論の材料として公開する点が特徴だ。
透明性とフロンティアAI評価基準への提言
創刊号は4本のエッセイで構成される。Rohin ShahとAnca Draganによる論文は、AIモデルの透明性が今後失われていくのは「必然ではない」と主張し、新しいアーキテクチャの登場によってモデルの内部動作を監視することがより困難になりつつある中でも、開発者は安全性とのトレードオフに正面から向き合うべきだと提案している。またHassabisは、米国主導によるフロンティアAIの評価基準機関の設立を提言し、開発者がモデルのリリース30日前の初期段階で自発的に評価用モデルを提出する仕組みを想定していると述べた。将来的には、企業側が評価のタイミングを特定できないよう「非公開テスト」の形で審査を実施し、企業がテストに合わせてモデルを調整することを防ぐ構想も示されている。このほか、AGIがもたらしうる社会的混乱への対応や、人間の繁栄を中心に据えた経済政策の原則もテーマとして取り上げられた。
業界の文脈と今後の展望
DeepMind Instituteの設立は、AI安全性をめぐる議論が「広範な懸念表明」から「具体的な政策提案」へと軸足を移しつつある業界全体の流れを反映している。特に、Anthropic CEOのDario Amodeiが提唱してきた「フロンティアAI開発のペースを調整すべき」という主張への支持が業界内で広がりつつある状況とも重なる。DeepMindが評価基準の制度化や透明性確保の具体策を打ち出したことで、今後は他の主要AI開発企業や政策立案者がこうした提案にどう応じるかが焦点となりそうだ。