Anthropic、AIが自らアライメントを改善する自動研究システムの論文を公開

論文の概要

Anthropicは2026年8月28日、論文『Automated Researchers Can Reliably Mitigate Alignment Failures』を公開しました。Anthropicのフェロープログラムに所属するChen Yueh-Han氏が主導した研究です。この論文は、AIシステムがモデルのアライメント関連の性能を自動的に改善できるかどうかを検証したものです。

研究では、特定の不適切なふるまいに対応する10のベンチマークが用意されました。自動化されたシステムはそのすべてでモデルの性能を向上させ、全体の性能を低下させることなく改善を達成したと報告されています。論文は、自動化されたアライメント後訓練が近い将来に実用化され得ることを示す初期の証拠だと述べています。

動作の仕組み

このシステムは、従来の研究プロセスを再現するように設計されています。各システムは利用可能な文献を検索し、改善手法を提案し、その手法でモデルを30分間訓練します。これを複数回繰り返し、ベンチマークの成績を徐々に上げていきます。

効果のあった手法は保持され、効果のなかった手法は破棄される仕組みです。これにより、人間の研究者では難しい規模と速度で実験を回せるようになります。モデルが自らの訓練方法を改善する「再帰的自己改善」の実現に向けた初期の取り組みと位置づけられます。

人間の研究者との比較

論文は、自動研究システム(AAR)と人間の研究者の比較も行っています。最良のAAR手法は、平均して6時間以内に経験豊富な人間が提案する手法を上回ったといいます。さらに、人間が導いた研究の方向性は、より強い性能につながらなかったと報告されています。

コスト面でも差は明確です。AARはAPI推論で1時間あたりおよそ4ドルかかるのに対し、人間の研究者には1時間あたり150ドルを支払っていると論文は述べています。ただし、この比較はあくまで今回の実験環境に基づくものであり、そのまま一般的なコスト削減効果として解釈できるわけではありません。

残された課題

論文は同時に、いくつかの限界も指摘しています。自動化されたシステムが機能するのは、ベンチマークが実際のアライメント目標を正しく反映している場合に限られます。ベンチマークの確立・維持や、自動研究の基盤となる文献の維持・拡充にも、まだ大きな作業が必要です。

今回の結果は限定的な条件下でのものであり、実用化にはさらなる検証が求められます。モデルが自らの訓練を改善できるようになれば人間のAI研究者の役割は変わる可能性がありますが、その影響の大きさは現時点では判断できません。