
- 個別の応答よりタスク全体のトークンと時間で効率を評価する
- 不要な書式の削除や出力の選択的圧縮でコストを削減
- プロンプトの書き換えは行動テストとの併用が不可欠
4つの変更と基本原則
GitHubは2026年9月2日、AIコーディングエージェントのコスト効率改善に関する記事を公開しました。対象はGitHub Copilot CLIをはじめ、Copilotアプリやコードレビューなど、同じ基盤を使う製品です。記事では「タスクを早く、効率的に、適切なコンテキストで完了すること」が真の効率だと述べています。
そのために導入されたのが、不要な出力を減らして有益な文脈を保つ、価値のない書式の削除、モデルの動作を変えずに指示を短縮する、完了済みのバックグラウンド作業を追加の取得ステップなしで渡す、という4つの変更です。いずれも、まずエージェント型コーディングのベンチマークでオフライン評価し、有望なものだけをオンライン実験で検証して出荷したとしています。
ローカル指標の落とし穴
記事はまず、個々のツール呼び出しの出力を短くすることがコスト削減につながるとは限らないと指摘します。RTKと呼ばれるシェル出力短縮ツールをCopilotに組み込んだ評価では、省略された情報が必要になった場合、モデルが元の出力を開き直したりコマンドを再実行したりする行動が観察されました。
こうした回復行動はターン数を増やし、引き継ぐコンテキストも増やします。結果としてツール応答は短くなったものの、タスク全体ではトークンと時間が増えました。つまり「ツール応答あたりのトークン」というローカルな指標を最適化しても、全体のコストは下がらないという事例です。
圧縮と書式削除の実際
採択されたのは、出力を「ノイズ」と「必要な情報」に分けて扱う選択的圧縮です。インストールやビルド、テスト、リントの出力には反復的なノイズが多い一方、catやgit diff、git show、任意のスクリプトの出力にはエージェントが求める情報が含まれる可能性が高いと分析しました。検索結果は内容を落とさずに並べ替え、ノイズだけを圧縮しています。
圧縮しすぎた初期バージョンは、モデルが元の出力を開き直すなどの理由でエンドツーエンドのコストを増やしました。そこで、ソース的な出力と任意の出力はそのまま返し、git diffの圧縮は中止するなど、保守的な方針に改めたとしています。この圧縮によって、品質指標に有意な悪化は見られず、オンライン実験では平均コストがわずかに下がりました。
もう一つの変更は、ファイル閲覧ツールから行番号を外すことです。行番号は以前の編集ツールではターゲット指定に使われていましたが、現在は周囲のコードを参照する方式に変わり、不要になっていました。これを削除したところ、オフラインのベンチマークでモデルの推論コストが約5%下がり、オンラインでは1ユーザーあたりの1日平均推論コストが約3%削減されました。
プロンプト圧縮と完了通知
プロンプトは毎ターンモデルに送られるため、その圧縮も効率に直結します。Copilotのタスクツールには指示が蓄積されていたため、Copilot自身にプロンプトを書き直させる「メタプロンプティング」で約半分に短縮しました。出荷後は1ターンあたり約1,300トークン、セッション全体のプロンプトで約1.8%、アクティブ1時間あたりで約2.9%の削減につながっています。
ただし、最初のオンライン実験では、並列実行が直列になる回帰が見つかり、実験を中断しました。この教訓から、プロンプトを書き換える際は、守りたい行動を確認するテストを追加する必要があると強調しています。最終的に「独立したエージェントは並列に実行できる。副作用を考慮せよ」という一文に置き換えたところ、既存テストに影響なく回帰を解消できたそうです。
さらに、バックグラウンドで動くシェルコマンドやサブエージェントの完了通知に結果を含めるようになりました。以前は完了後に結果を取得するための追加のモデル呼び出しが必要でしたが、まとめて直接渡すことで、AI Credits(利用量)を約2.3%削減しています。
5つの教訓
記事の最後では、効率的なエージェントを構築するための5つの教訓が挙げられています。①完了したタスク単位で最適化する、②モデルの出力だけでなくオーケストレーションも最適化する、③出力が何を表すかに基づいて圧縮し、回復経路の使用頻度を測る、④プロンプトの書き換えには意図しない影響への検証が要る、⑤効果はワークロードに依存するため、各製品で再評価する、です。
これらの変更は、モデルを賢くしたのではなく、モデルがやらなくてもよい作業をなくした点が特徴です。Copilot CLI以外のCopilot製品にも、同じ基盤を経由して順次適用されると見られています。
| 項目 | ローカル最適化 | タスク全体最適化 |
|---|---|---|
| 対象 | 個々のツール応答のトークン | タスク完了までの総トークンと時間 |
| 例 | RTKによる一律短縮 | 選択的圧縮・不要書式の削除 |
| 結果 | 回復行動で全体コストが増加 | 品質を保ちつつコストが減少 |
The goal shouldn't be to use fewer tokens, but to tap into the right amount of context to move a task forward.
目標はより少ないトークンを使うことではなく、タスクを前に進めるために適切な量の文脈を取り込むことです。
今後の見通し
今回の記事で紹介された変更は、すでにCopilot CLIなどで展開が始まっています。同じ基盤を使うCopilotアプリやコードレビューにも広がるとみられる一方、効果はワークロードに依存するため、製品ごとに再評価が必要です。今後、特にコードレビューのような長いタスクでこれらの最適化がどれだけコスト削減に寄与するかが明らかになれば、エージェント開発の指針がさらに具体化するでしょう。
日本の開発者・IT企業にとっての意味
日本のIT企業や開発者にとって、この記事はAIコーディングエージェントを自社開発する際の設計指針として有用です。ツール呼び出し単位のコスト削減は一見効果的に見えても、エージェントが情報を取り戻すための追加呼び出しを誘発すれば全体コストは悪化します。同様に、不要な書式やオーケストレーションの無駄を見直すことで、モデルの性能を上げずにコストを下げられる可能性があります。特にCIやコードレビューにCopilotを組み込んでいる企業は、このようなタスク全体の最適化が運用コストに与える影響を検討する材料になるでしょう。
気になる点
- 今回の効率化はどのCopilot製品に適用されますか?
- ブログによると、変更は同じ基盤を使うCopilot体験に展開されるとのことです。具体例としてCopilot CLIに加え、CopilotアプリやCopilotコードレビューも同じハーネスを使っており、これらの改善の恩恵を受けるとみられています。ただし、各製品で個別に再評価される必要があります。
- 出力の圧縮で情報が失われることはありませんか?
- 記事では、ソース風の出力や任意のコマンド出力は圧縮せず、インストールやビルドなど反復的なノイズだけを選んで圧縮するとしています。また、圧縮時には元の完全な出力を取り出せる回復経路を用意し、エージェントが頻繁に回復経路を使うかどうかを評価の指標にしています。
- 開発者がこの変更のために設定などを変更する必要はありますか?
- 記事では、開発者向けの新しい設定や操作手順は説明されていません。行番号の削除やプロンプト圧縮などは、開発者が意識しなくてもコンテキストウィンドウの空きが増え、モデル推論のコストが下がる形になると考えられます。
用語解説
- agentic coding benchmark
- エージェントが複数ステップでコーディングタスクをこなす能力を測るベンチマーク。成功率やコストを評価する。
- meta-prompting
- モデル自身にプロンプトの改善案を書かせ、より短く効果的な指示へ書き換える手法。
- AI Credits
- GitHub Copilotなどの利用量を表す単位。トークン消費や処理量に応じて消費される。
- RTK (Rust Token Killer)
- シェル出力を短縮してエージェントが読むトークンを減らすユーティリティ。
出典
How we make AI coding more cost efficient without sacrificing task quality
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する