- 連邦議会に能力ベースの義務的AI安全規制の制定を要請
- カリフォルニア州のAI安全関連4法案を支持し、州レベルでの基盤整備を後押し
- フロンティアAIの監視やインシデント報告など業界標準を提案
政策提言の要旨
2026年9月9日、OpenAIの最高グローバル・アフェアーズ責任者クリス・レヘイン氏が、AI政策に関する提言を公表しました。この中で、AIの能力進化に合わせた政策が必要であり、「政策の完璧さよりも意味のある行動」を優先すべきと主張しています。具体的には、米連邦議会に対し、AIの能力に基づく義務的な安全規制の制定を求めています。
同時に、連邦議会が対応するまでの間、州レベルの法案を支援する方針も示しました。今回、カリフォルニア州のSB 813、AB 1405、SB 1119、AB 1864の4法案を正式に支持すると発表しています。さらに、他のフロンティアAI研究所と連携した自主的な業界標準の策定や、国際的な枠組みづくりも呼びかけています。
背景にあるAI急速な進展
この提言の背景には、AIの能力が想定以上に速く進んでいるという認識があります。OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏は、機械知能の急速な台頭や、AI自身が次世代のAIを生み出す「再帰的自己改善」の可能性に対して「極度の注意」が必要だと最近のエッセイで述べています。OpenAIは、現在は完全な自動自己改善は起こっていないとしつつも、AIが研究開発の一部を加速する兆候が見られると指摘します。
また、OpenAIのグレッグ・ブロックマン氏は、攻撃的な能力が広がる前に防衛側が重要システムを強化できる期間を「防衛者の窓」と呼びました。今回の提言では、これに倣い、AIの能力が制度を追い越す前に安全策を確立できるかが、政策担当者にとって「閉じつつある窓」だと説明しています。技術革新に政策の枠組みを並行させる必要性を強調した内容です。
連邦規制と州法案
連邦レベルでは、OpenAIは任意の取り組みでは不十分で、義務的かつ能力に基づく規制が必要だと主張しています。同社が提案する枠組みでは、共通のテスト、独立した評価、サイバーセキュリティの強化、インシデント報告ルールの整備が柱となります。対象は限られたフロンティア研究所に絞り、スタートアップや小規模開発者まで広げるべきではないとの立場です。また、オープンウェイトモデルを規制の道具にすることは避けるべきだとし、オープンとクローズドの両方を維持することで米国の競争力が高まるとしています。
州レベルでは、カリフォルニア州の4法案を支持します。SB 813は独立したAIリスク評価機関の指定制度を設ける内容、AB 1405はAI監査人の登録と説明責任に関する基準、SB 1119は若年者向けチャットボットの保護、AB 1864はAIを活用した生物学的脅威への対策として遺伝子合成事業者に連邦のスクリーニング基準を順守させるものです。OpenAIは、州が共通の安全措置を導入することで、連邦法ができるまでの間の事実上の全国基準が形成されるという「リバースフェデラリズム」の考え方を示しています。
監視と業界標準への注力
法律だけではAIを安全にできないとして、OpenAIは研究所内部の慣行も重視しています。特に、モデルが人間の意図に反する行動を取る「ミスアラインメント」の監視が重要だと指摘。モデルの自律性が増し、ツールを長時間使うようになるほど、こうした挙動を検知し、安全策を実証する義務が開発者に生じると述べています。
OpenAIは既に、研究開発プロセス全体で監視を強化していると説明します。具体的には、フロンティア研究のワークロードの分離強化、ツール連携中のモデル挙動の監視拡大、懸念事項をエスカレーションするルールの明確化を進めています。新モデル「Astra」では、思考の連鎖を含む全軌道の監視と、社内展開前に整合性を評価するゲートを導入しました。さらに、開発中に他社のセキュリティ管理を迂回した場合の報告義務や、重大なAI事故に関する連邦政府への報告義務の整備も提案しています。
今後の論点
最大の焦点は、連邦議会が休会前に法案を成立できるかです。OpenAIは「完璧を善の敵にさせてはならない」と表現し、実効性を重視して成立を促しています。しかし、具体的にどの水準の能力を持つモデルが「フロンティア」に該当するのか、安全基準を満たしているかどうかをどう判定するのかは、まだ示されていません。今後の議会審議や公聴会で詰められる必要があります。
また、今回支持するカリフォルニア州の法案には、以前は支持していなかったものも含まれると記事は述べています。どの法案をどのように再評価したのか、また可決された場合にAI開発へどのような制約が生じるのかは、現時点では詳細に明らかにされていません。連邦と州の二段構えの規制が現実に機能するかどうかは、今後の動きを注視する必要があります。
| 法案番号 | 目的 | 具体的内容 |
|---|---|---|
| SB 813 | 独立したAIリスク評価 | AIリスクを評価できる独立組織の指定プロセスを確立する |
| AB 1405 | AI監査人の基準 | AI監査人の登録、独立性、透明性、説明責任を義務付ける |
| SB 1119 | 青少年の保護 | チャットボット利用時における年齢確認、親による制御、有害コンテンツ対策を求める |
| AB 1864 | 生物学的脅威対策 | 遺伝子合成事業者に対し、連邦のスクリーニング基準の順守を義務付ける |
No company, industry, or government can meet this challenge alone. We need to meet this moment with a bias toward meaningful action over policy perfection.
どの企業も、業界も、政府も、この課題に単独で対応することはできません。私たちは、政策の完璧さよりも意味のある行動に重きを置いて、この瞬間に対応する必要があります。
今後の見通し
連邦議会が実際に法案を可決するか、カリフォルニア州のニューサム知事が4法案に署名するかが当面の焦点です。OpenAIは、安全性が確保できない場合には開発や展開を遅らせる方針を明言しており、具体的な「安全基準」の定義が今後重要になるとみられます。また、他のフロンティア研究所がこの呼びかけに応じて共通の業界標準を形成できるか、国際的な規制調和がどこまで進むかも見極める必要があります。次に明らかになれば判断がしやすいのは、これらの政策が実際のAIモデルやAPI提供条件にどのように反映され、企業のコンプライアンス負担やサービス運用へ影響を与えるかという点です。
日本の開発者・IT企業にとっての意味
日本企業にとって重要なのは、米国の規制動向がフロンティアAIの利用条件に直結する点です。OpenAIは監視やインシデント報告の義務化を提案しており、今後API契約でも安全性に関する追加要件が生じる可能性があります。また、オープンウェイトのモデルが直接の規制対象にならないと明言していることから、機密データを自社環境で処理したい企業はオープンウェイトモデルの採用を選択肢として検討しやすくなるかもしれません。その一方で、規制強化により最先端モデルの開発速度が下がれば、日本企業が利用できるAI機能の進歩も遅れる恐れがあります。したがって、米国政府やカリフォルニア州の政策動向を把握することは、AI活用戦略を立案する上で欠かせない要素になると言えます。
気になる点
- カリフォルニア州の4法案は日本企業にも直接影響しますか？
- 現時点では直接の適用はありません。ただし、OpenAIなどのフロンティアAI事業者がこれらの規制に対応するため、APIの提供条件やモデルの安全性評価が厳しくなり、間接的に利用環境へ影響する可能性はあります。法案の詳細は米国州法であり、日本企業は提供側の動向を追う必要があります。
- OpenAIはなぜ今回、以前から支持してきた法案に加えて追加の法案を支持するのですか？
- 記事では「最近の能力の大幅な向上を踏まえて再検討し、支持を追加した」と述べています。つまり、AIの能力進化が政策の想定を上回っており、安全策を先行させる必要性が高まったとOpenAIが判断したためとみられます。
- OpenAIは、安全基準を満たさない場合に本当に開発を止めるのでしょうか？
- OpenAIは自社の準備フレームワークに基づき、十分に保護できないシステムの開発や展開は停止するとしています。ただし、具体的な安全基準の指標や、どの段階で停止するかの判断基準はこの記事では示されておらず、今後の議論で定義される見通しです。
用語解説
- フロンティアAI
- 最先端の能力を持つAIモデルのこと。数少ない大規模研究所のみが開発できる高度なAIを指すことが多い。
- 再帰的自己改善
- AIシステムが自ら次の世代のAIを設計・生成し、能力を加速的に高める仕組み。現時点では完全には実現していない。
- ミスアラインメント
- モデルが人間の意図や設定された境界に反する行動を取ること。悪意がなくても発生し得る。
- リバースフェデラリズム
- 連邦法が存在しない間に州法が蓄積され、事実上の全国基準を形成するという考え方。逆連邦主義とも呼ばれる。
- オープンウェイトモデル
- 学習済みの重み（パラメータ）が公開され、誰でも自由に利用・改良できるAIモデルの形式。
出典
The AI policy window is open. We need to act.
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する