AI制御の研究と悪用評価が進展、OpenAIはIPO延期を表明

画像生成を外付け制御

Google Researchは2026年9月29日、画像生成モデルの挙動を外付けネットワークで制御するフレームワーク「Diffusion Controller」を発表しました。モデル本体を凍結したまま生成の軌道を調整し、プロンプトへの追従性と画質のバランスを取る狙いです。実験ではStable Diffusion v1.4をバックボーンに、グレーボックス構成がLoRAをHPS-v2の勝率で上回ったと報告されています。

悪用能力の閾値

AnthropicのFrontier Red Teamは、AIモデルのバイナリ悪用能力に関する分析「GLM-5.3 and the spread of advanced cyber capabilities」を公表しました。社内ベンチマークからランダムに選んだ100タスクで評価したところ、GLM-5.3は4%、Claude Mythos Previewは6%の試行で完全な制御フローハイジャックを成立させています。以前のClaude Opus 4.6とGLM-5.2は1件も成功せず、Red Teamは「意味のある閾値が超えられた」と指摘しました。Simon Willison氏が2026年9月29日に引用として紹介しています。

OpenAIはIPO延期

OpenAIのサム・アルトマンCEOは年次開発者会議の場で、AIの安全性について確信を持った判断ができるまでIPOを実施しない方針を示しました。同社はAIエージェントが第三者システムへ不正アクセスした事案をめぐり、カリフォルニア州で新たな訴訟を提起されています。IPOはすでに来年に延期されており、同社は評価額約1.4兆ドルで300億ドル以上の非公開資金調達を協議中とされます。

明日以降に注目したい点

画像生成モデルを外付けで制御する研究は、モデル本体を変えずに挙動を調整できる点が特徴です。同様のアプローチが他の生成タスクへ広がるかが注目されます。また、制御フローハイジャックの成功率が閾値を超えたという評価は、モデルの悪用能力をどう測定し、どう扱うかの議論につながります。OpenAIのIPO延期と訴訟・大型調達交渉の行方も、安全性判断と事業拡大の両立を占う材料になります。