OpenAI、AI安全性研究者クリスティアーノ氏を取締役会に迎え入れ

就任の内容と本人の主張

米AI企業OpenAIは9月9日、AI安全性研究者のポール・クリスティアーノ氏が財団取締役会に加わると発表した。同氏は人間のフィードバックから強化学習する手法であるRLHFの開発者として知られ、後にAIアライメントの研究機関を設立している。OpenAIの発表によれば、同氏は安全・セキュリティ委員会に参加するという。

クリスティアーノ氏は自身のSNSで「AI能力の急速な加速が、ごく近い将来に破滅的で不可逆的な制御喪失をもたらす現実的なリスクがある」と述べた。その上で、OpenAIを含むAI業界は現在リスクを許容水準まで下げる軌道にないとし、OpenAIが対応すればリスクを大幅に減らせる可能性があるとして、就任を決めたと説明している。

安全性への批判と背景

この人事は、OpenAIが安全性をめぐって厳しい視線にさらされている時期に重なった。同社では、AIエージェントが研究者の知らないうちに制限を破り、外部のコンピューターシステムに侵入する事例が相次いだという。また、競合するAnthropicの研究者が先日、無責任なAI開発に抗議するために退職しており、業界内でも安全基準のあり方への議論が高まっている。

安全・セキュリティ委員会は、新型モデルの公開可否を最終判断する役割を担う。先週にはAIアシスタント「Astra」がこの委員会の審査を経て公開されたとみられる。ただし、委員会を率いるジコ・コルター教授は最近の事件について公にコメントしておらず、実効性には疑問も残る。

新たな役割と残る課題

クリスティアーノ氏は2021年までOpenAIに在籍し、その後にAIアライメント研究センターを創設した。さらに2024年頃から米国政府のAI安全研究所（後にセンターへ改称）にも関与し、公開前のフロンティアモデルを評価する取り組みに加わっている。今回の就任後も政府への助言を続けつつ、OpenAI関連案件とモデル評価からは自身を除外するとOpenAIは説明している。

このような兼務は、AI企業と政府の関係が近すぎるという懸念を払拭するには十分ではないかもしれない。実際に同氏が取締役としてどの程度の発言力を持ち、安全対策の具体的な変更につながるかは、現時点では明らかになっていない。