OpenAIが次期AI「Astra」の訓練停止、サイバーセキュリティ対策を導入

発表の概要

OpenAIは火曜日、次期フロンティアAIモデル(コード名Astra)について、訓練ワークロードと評価のうち「かなりの数」を停止したと発表しました。新たな手続きが整うまでの措置とみられます。

同社は、サイバーセキュリティリスクに対処するため、監視・セキュリティ・アライメントに関する新たな要件を導入する方針です。ただし、停止した対象の具体的な数や期間は公表されていません。

新たな安全対策の狙い

今回の発表で注目されるのは、AIモデルが持つ高度なハッキング能力を前提とした対策である点です。従来の安全性研究では、モデルが有害な回答をしないようにすることを重視してきましたが、今回はAIエージェントが実際にサイバー攻撃に使われるリスクを想定しています。

OpenAIは、AIエージェントの開発を進めており、Astraにもそのような能力が組み込まれる可能性があります。このため、訓練段階でセキュリティ上の問題が確認された場合に、作業を止めて要件を見直すという判断になったと考えられます。

既存の対策との比較

これまでのAI安全対策は、モデルを公開した後に外部の研究者がテストする方法が中心でした。今回の発表は、訓練や評価の段階でモデルの能力に応じて停止するという点で、開発プロセスに安全対策を組み込むアプローチといえます。

ただし、同様の取り組みが他社でも行われているかどうかは定かではありません。OpenAIの発表だけから、業界全体の水準を評価するのは難しい状況です。

不明点と今後の注目点

今回の発表では、「かなりの数」という表現にとどまり、具体的な停止数や再開時期、新たな要件の詳細が明らかにされていません。このため、影響の大きさを正確に見積もることはできません。

今後、OpenAIがどのようなプロセスを経て訓練を再開するのか、また新たな安全要件がどのように運用されるのかを注視する必要があります。特に、AIエージェントのセキュリティ基準が今後の業界標準になる可能性があります。