- 論文は、GPT-6 Astraが重みからネットワークの学習内容を推測し、重みを直接編集できると報告
- Simon氏はQwen 3.8 27B（17GB）をノートPCで実行し、4ゲーム中3ゲームを正解
- spaCy作者のMatthew Honnibal氏らは、ツールなしの重み読解とコードを使う更新の混同を指摘
重みを直接読むという主張
Simon Willison氏が2026年11月3日のブログで紹介したのは、Rikiya Takehi氏、Jayden Teoh氏、Alex Zhang氏、Omar Khattab氏による論文「Sparks of Weight-Space Programming」です。論文は、大規模言語モデルがニューラルネットワークの生の重み、すなわち浮動小数点数の羅列を読んで解釈し、書き換えられることを示したと主張しています。特にフロンティアモデルとされる「GPT-6 Astra」が高い性能を示したとされます。
論文の要旨では、GPT-6 Astraが重みを見るだけでネットワークの学習内容を言い当てたこと、環境からのフィードバックなしに小さなゲームプレイ用ネットワークをゼロから書き、PPOで1億ステップ学習したネットワークを上回ったことが述べられています。さらに、Qwen3.5-0.8Bの重みの0.016%を編集するだけで、MATH-500のスコアが7.9%から48.1%に上がり、IFEvalが3倍になったと報告されています。学習ループを書かせることなく、モデル自身の推論で各部分の役割を推定して重みを変える、というのが論文の説明です。
Simon氏はこの論文が2つの異なる話題を抱えていると指摘します。1つはツールもコード実行も使わずに重みから何を読み取れるか、もう1つはコードを武器にしたモデルが他のモデルを更新・改善できるかです。同氏は前者のほうが興味深いとして、検証の中心に置いています。
ノートPCの27Bモデルで追試
論文のGitHubリポジトリ「RikiyaT/lm_understand-logs」には、実験で使ったプロンプトが公開されています。exp1_which_gameフォルダには、Breakout、Pong、Pac-Man、Freewayという4つの古典ゲームを簡略化した10x10グリッド環境で学習させたポリシーネットワークの重みが、浮動小数点数のテキストとして収められています。プロンプトは「この重みはどのゲームで学習されたものか。ツールは使わず、1回の応答で答えよ」と問いかける形式で、重み以外は同一だと確認されています。
Simon氏はまず、OpenRouter経由の「Kimi K3.1 Pro」でBreakoutのプロンプトを実行し、9分41秒・推論トークン19,493で正解を得ました。続いて、ノートPC上で動かす17GBの「Qwen 3.8 27B」をLM Studioで読み込み、同じ実験を行っています。このとき既定の8192トークンのコンテキストではエラーになったため、より長いコンテキストウィンドウを確保し、タイムアウトも環境変数で延ばしています。
結果は、Pac-Manが46分12秒・推論トークン43,506で正解（信頼度72%）、Pongが1時間4分54秒で正解（同75%）、Breakoutが52分25秒で正解（同88%）でした。Freewayだけは不正解で、Qwenは「Pac-Man風のグリッドゲーム」と答えています。Simon氏は、Freewayが他の3つよりマイナーなゲームであることを理由として挙げています。
混同への批判と過大評価の警戒
論文の主張に対しては、公開直後から批判も出ています。spaCyの作者として知られるMatthew Honnibal氏は、論文が2つの話題を混同しているとして「misleading（誤解を招く）」と評しました。Sean Goedecke氏は、Qwen3.5-0.8Bの改善例を分解し、人間の機械学習研究者が取るのと同じ手順を踏んでいるにすぎないと論じています。
Simon氏自身も、論文はクールだが、周囲で見られる一部の論評は正当化されないと書いています。「ソースコードの時代は終わり、未来は理解不能な機械が理解不能な方法で自分の重みを編集する」と宣言する準備はできていない、という趣旨で警戒を示しました。推論トレースは面白いもののほぼ理解不能で、それでも経験を積んだ人間ならノートと鉛筆で同じ結論にたどり着けるだろう、とも述べています。
現時点で残る不確かさ
今回の追試から分かるのは、27Bクラスのローカルモデルでも、重みから学習内容を推測するタスクを一定の精度でこなせるということです。ただしQwenの回答には、盤面を「8x8」と記述するなど、10x10という設定と一致しない部分も含まれていました。正解した3問も、信頼度は72〜88%にとどまっています。
計算コストも無視できません。1問あたり46分から1時間あまり、4万トークン前後の推論を要しており、対話的に使える速度ではありません。Freewayで失敗した原因がモデルの規模なのか、学習データの偏りなのか、プロンプトの設計なのかは特定されていません。重み編集によるモデル改善についても、独立した第三者による再現結果は原文では示されていません。
| 項目 | Kimi K3.1 Pro | Qwen 3.8 27B |
|---|---|---|
| 実行環境 | OpenRouter経由のクラウド | LM Studio（ノートPC上） |
| Pac-Man | 原文に記載なし | 正解・46分12秒・推論43,506トークン |
| Pong | 原文に記載なし | 正解・1時間4分54秒 |
| Breakout | 正解・9分41秒・推論19,493トークン | 正解・52分25秒 |
| Freeway | 原文に記載なし | 不正解（Pac-Man風と誤答） |
It uses its reasoning to figure out what each part of a neural network computes, or should compute, and changes the weights accordingly. We call this Weight-Space Programming.
モデルは推論を使って、ニューラルネットワークの各部分が何を計算しているか、あるいは何を計算すべきかを突き止め、それに応じて重みを変更します。私たちはこれをWeight-Space Programmingと呼んでいます。
今後の見通し
今後、同種の追試が広がれば、どの規模のモデルが重み読解をこなせるのか、ツールなしとツールありで結果がどう変わるのかが明らかになるとみられます。プロンプトが公開されているため、読者自身が手元のモデルで同じ実験を再現できます。一方、重み編集によるモデル改善が実用になるかは、独立した第三者による再現と計算コストの比較を待つ必要があります。Freewayでの失敗がモデル規模に由来するのか、学習データやプロンプト設計の問題なのかも、現時点では特定されていません。
日本の開発者・IT企業にとっての意味
日本のIT企業にとっての意味は2つあります。第一に、17GBの27Bモデルという現実的な規模で、モデルの内部状態を読むタスクが再現できた点です。機密性の高い自社データで学習したモデルをクラウドに出さず、手元の環境で挙動を分析できる可能性を示します。第二に、論文のプロンプトがGitHubで公開されているため、自社モデルや量子化モデルで同じ検証をすぐ試せます。ただし1問あたり1時間近い推論と長いコンテキストが必要で、現状はバッチ的な検証向けです。モデルのデバッグや品質保証への応用は研究段階にあり、論文中の改善事例には混同への批判もあるため、過度な期待は避けるべきです。
気になる点
- Qwen 3.8 27Bを手元で動かすには何が必要ですか
- 原文では17GBのバージョンを使い、LM Studioで読み込んでいます。既定の8192トークンのコンテキストでは失敗したため、より長いコンテキストウィンドウを確保する必要がありました。必要なGPUメモリやマシンスペックの詳細は原文に記載がなく、現時点では公表されていません。
- 同じ実験を自分の環境で再現できますか
- 論文のGitHubリポジトリ「RikiyaT/lm_understand-logs」に、重みを含むプロンプトが公開されています。プロンプトは自己完結しているため、対応するツールとモデルがあれば同じ検証が可能です。ただし1回の推論に46分から1時間かかった例もあり、相応の待ち時間を見込む必要があります。
- 重みを直接編集する手法は実務のモデル改善に使えますか
- 論文ではQwen3.5-0.8Bの重みを0.016%編集してMATH-500を7.9%から48.1%に上げたと報告されています。ただしこの例はコード実行を伴う手順と混在しているとの指摘があり、独立した再現は示されていません。実務投入の可否を判断するには時期尚早とみられます。
用語解説
- Weight-Space Programming
- LLMがニューラルネットワークの生の重みを直接読み取り、編集する手法。論文が提唱した用語です。
- ポリシーネットワーク
- 強化学習において、観測から行動を選ぶ方針を出力するネットワークのことです。
- 推論トークン
- モデルが最終回答を出す前に内部で生成する思考用トークンの数。計算コストの目安になります。
- PPO
- 強化学習の代表的なアルゴリズムの一つ。Proximal Policy Optimizationの略です。
- MATH-500
- 数学の文章題で構成されるベンチマーク。正答率でモデルの能力を評価します。
- LM Studio
- ローカルのPC上でLLMを動かすためのデスクトップアプリ。モデルの読み込みとAPI提供を行います。
出典
Qwen 3.8 27B on my laptop can interpret model weights, too
https://simonwillison.net/2026/Nov/3/qwen-can-interpret-model-weights
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する