OpenAI、Model Specを5つの価値中心に改訂 人間の意図への忠実性を重視

何が発表されたのか

OpenAIは2026年10月29日、モデルの振る舞いについての公開文書「Model Spec」の改訂版を公表した。Model Specは、OpenAIがモデルにどう振る舞ってほしいかを外部に示す文書で、今回の改訂では内容の整理と新項目の追加が同時に行われている。OpenAIは、この改訂が価値アラインメント（モデルを人間の意図や価値に沿わせる取り組み）の一環だと位置づけている。

背景として、モデルが賢くなるにつれて現実世界で影響の大きい行動をとる場面が増えていることが挙げられている。指示された内容を解釈するだけでは足りず、指示に明示されていない状況でも人間の意図や価値観を理解して判断する必要がある、という問題意識が示された。改訂は、研究や運用経験、仕様とモデル挙動に対する公開フィードバック、利用者や外部専門家との議論を踏まえたものだと説明されている。

5つの価値への再編

改訂版では、指針全体が5つの価値の下に整理された。人間の意図への忠実性、危害の最小化、誠実さと透明性、人間の主体性の促進、思いやりの5つである。このうち人間の意図への忠実性が土台とされ、人が大切にしていることを理解し、その実現を助けることが基本に置かれている。OpenAIは、これらがモデルが尊重すべき人間の価値の全体を網羅するものではないとも明記している。

忠実性については、指示を字面どおりに守るだけでなく、OpenAI、開発者、利用者が意図し価値づけていることを深く理解し、理解が不完全なときにも適切に行動することを指すと説明されている。人の信念や価値観は変わりうるという前提も置かれ、本人が受け入れられる形で内省や成長を助ける一方、静かに誘導したり選択を覆したりしないことが求められている。

残る4つの価値も、それぞれ短く定義されている。危害の最小化は安全上の境界を守り、予見できる結果を考慮すること、誠実さと透明性はモデルが何を知り何を行い何に不確かさを持つかを正直に示すこと、人間の主体性の促進は人が自ら理解し選択し行動する力を強めること、思いやりは影響を受ける人の状況や社会的・職業的規範に配慮し、信頼できる仕事をすることとされている。仕様は、必要な箇所では固定的な境界線を設けつつ、それ以外は主に利用者や開発者が上書きできるデフォルト（既定動作）という形をとる。

新設と廃止の中身

新たに設けられた「人間の意図への忠実性」の節は、人が価値づけるものが第一であり、指示は通常その価値の最も明確で重要な信号だという考えから出発する。この考え方は、アラインメント研究における「アシスタンス・ゲーム」の枠組みを参考にしたとされ、どの指示が適用され、衝突時にどう解決するかを説明する「チェーン・オブ・コマンド」も更新された。加えて「文脈を慎重に考慮する」という小节が新設され、会話や記憶、その他の文脈的な手がかりから、人の意図や好みの理解を深めるべきだとしている。

人間の主体性を支えるためのデフォルトと、関連する社会的規範に従うためのデフォルトも追加された。副作用の制御と説明に関する既存の指針は拡張されている。これらは、仕事が他者に与える影響を考えること、利用者の能力を強めること、信頼できる成果を出すことを、利用者の目的や指示を尊重しながら実現するための指針だと説明されている。

一方で、詳細なスタイル指針の大部分は廃止された。スタイルは、言語や文化の単位で、また個人ごとに、人が好むものに適応すべきだという理由である。ただし「質問には客観的に向き合う」といった比較的強いデフォルトは残り、利用者や開発者が明示的に特定の視点を求めた場合はそれに従うが、モデルが「こう言えば喜ばれるだろう」と推測しただけでは立場を寄せないとされている。モデルの呼称も「the assistant」から「GPT」に改められた。

訓練手法と未反映の点

仕様の改訂と並行して、OpenAIはモデルにこれらの価値を学ばせる新しい訓練手法を検討していると明かした。原則がなぜ重要か、新しい状況でどう適用するかの理解を育てることを狙うもので、結果と教訓は今後のアップデートで共有するとしている。現時点で手法の詳細や評価結果は示されていない。

OpenAIは、Model Specが目指している振る舞いを記述した文書であり、モデルはまだそれを完全には反映していないと明言している。仕様とモデルの双方を、研究や実利用、フィードバックを通じて改善し続ける方針である。あわせて、どの部分に納得し、どこに異論があり、何が見落とされているかについての外部からの意見を求めている。