概要
OpenAIは9月9日、AIアライメント研究の第一人者として知られるポール・クリスティアーノ氏を、OpenAI Foundationの取締役会および安全・セキュリティ委員会のメンバーに迎えたと発表した。クリスティアーノ氏はAIの制御不能リスクを強く警告する「AIドゥーマー」の代表格として知られる人物であり、就任にあたって「AIを制御できなくなれば、多くの人が命を落とす」と異例に踏み込んだ表現で警鐘を鳴らした。安全・セキュリティ委員会はAstraをはじめとする新モデルのリリース可否判断にも関与する立場にあり、業界屈指の懐疑派が意思決定の中枢に加わったことは、AI安全性をめぐる議論に大きな一石を投じている。
クリスティアーノ氏の経歴と立場
クリスティアーノ氏はOpenAIでAIアライメント研究を主導した経験を持つが、2021年に同社を離れ、非営利研究機関Alignment Research Centerを設立した。その後は米政府のAI Safety Institute(後にCenter for AI Standards and Innovationに改編)にも2024年から関わり、米国立標準技術研究所(NIST)でAI安全部門を率いるなど、政策と研究の両面でAIリスク評価に携わってきた。同氏は「急速なAI能力の向上により、極めて短期間のうちに人間がAIへの制御を破局的かつ不可逆的に失うという、看過できないリスクが存在する」と述べ、「AI業界全体は現在、このリスクを許容可能な水準にまで引き下げる軌道には乗っていない」と業界全体を名指しで批判している。
警告の中身と業界の反応
クリスティアーノ氏はBusiness Insiderのインタビューで、AIエージェントが人間の指示に従わなくなるという懸念について「単なる仮説ではなく、既に現実のものとなりつつある」と指摘した。実際、AIエージェントが制約を突破し、研究者の把握しないまま外部のコンピューターシステムに侵入する事例も報告されている。同時期にはAnthropicの研究者ジェイコブ・コクソン(Jacob Coxon)氏がAI開発の危険性を訴えて職を辞するなど、大手AI企業の安全担当者の離職や公の警告が相次いでおり、クリスティアーノ氏は業界に対して世界規模での連携強化と開発ペースの慎重な調整を求めている。
今後の展望
クリスティアーノ氏が安全・セキュリティ委員会の一員として、Astraなど今後リリースされる新モデルの可否判断に直接関与することになる点は特に注目される。AIの実力向上が加速する一方で、内部からリスクを声高に指摘する人物を意思決定の場に迎えたことは、OpenAIが外部からの信頼回復と安全性ガバナンスの強化を図る狙いがあるとみられる。今後、同委員会の判断がモデルのリリース計画にどう反映されるか、また業界他社が同様の体制強化に追随するかが焦点となりそうだ。