OpenAIが準備チームを解散、IPO前に安全体制を再編か

何が起きたか

FTによれば、OpenAIは先月末に準備チームを解散した。このチームは、モデルが重大なリスクをもたらすかどうかを評価し、リスクを軽減する方法を開発する役割を担っていた。具体的には、モデルが暴走して他社にハッキングするような可能性も検討対象だった。

解散後、担当業務はバイオやサイバーなどの領域ごとに分割され、既存チームへ移された。FTの報道だけでは詳細は不明だが、安全評価の機能は新しい組織の中で分散されることになる。

IPO前の組織変動

今回の解散は、大型IPOを控えたOpenAIの組織再編の一環とみられる。同社はこれまでに、AGIレディネスチームやスーパーアライメントチームを解散してきた。さらに、倫理責任者のクロエ・バカラー氏、最高未来学者のジョシュ・アチアム氏、安全部門トップのヨハネス・ハイデッケ氏が最近退社したことも報じられている。

こうした動きに対し、2024年にOpenAIを退社したヤン・ライケ氏はFTに対し、同社が安全よりも「派手な製品」の開発を優先していると批判した。安全性を重視する立場から、体制が弱体化しているという懸念が出ている。

新体制と見通し

準備チームの責任者だったディラン・スカンディナロ氏は、2月にAnthropicから移籍したばかりだ。同氏は今後、再帰的自己改善型AIの影響に焦点を当てるという。再帰的自己改善型AIとは、自身のコードや能力を自己改良するAIのことで、こうしたシステムのリスク評価が今後の課題になるとみられる。

FTの報道内容には、OpenAI自身のコメントは含まれていない。また、新体制での安全評価の基準や、領域ごとの責任範囲がどうなるのかも不明だ。今後の開示や実際の運用を確認する必要がある。