- GPT-5.6のSol/Terra/LunaがBedrockで提供開始
- キャッシュ利用で入力トークンが90%割引に
- キャッシュは30分有効、最大4か所まで設定可能
GPT-5.6の概要
OpenAIのGPT-5.6シリーズがAmazon Bedrockで一般提供となりました。ラインナップは、複雑な推論やエージェント型コーディング向けのSol、日常の本番ワークロード向けのTerra、分類や要約など高速処理向けのLunaの3つです。いずれも従量課金で、AWSのセキュリティやガバナンスの仕組みをそのまま使えます。
料金はトークン単位で、既存のAWSコミットメントにも充当されます。モデルIDはそれぞれopenai.gpt-5.6-sol、openai.gpt-5.6-terra、openai.gpt-5.6-lunaです。Solは米国東部(バージニア北部、オハイオ)、TerraとLunaはさらに米国西部(オレゴン)でも利用できます。
プロンプトキャッシュの仕組み
GPT-5.6ではプロンプトキャッシュがデフォルトで有効です。明示的に設定しなくても、Amazon Bedrockが自動的にキャッシュの境界を設定し、1,024トークン以上の安定したプレフィックスを再利用します。これを暗黙的キャッシュと呼びます。
一方、明示的キャッシュでは、自分でキャッシュ境界を指定します。prompt_cache_breakpointパラメータで再利用するプレフィックスの終端をマークし、prompt_cache_keyでリクエストを同じキャッシュにルーティングします。キャッシュされた入力トークンは90%割引、書き込み時は1.25倍のレートが適用され、有効期間は30分です。最大4つのブレークポイントを設定できます。
APIと利用方法
GPT-5.6はOpenAI互換のResponses APIを介して提供されます。エンドポイントはbedrock-mantleで、OpenAI SDKに認証用のトークンジェネレータを組み合わせて利用します。ストリーミングや関数呼び出し、JSONスキーマによる構造化出力も既存のOpenAI APIと同じように動作します。
推論の努力量(reasoning effort)はnoneからxhighまで5段階から選べます。デフォルトはmediumです。GPT-5.5やGPT-5.4から移行する場合、現在使っているレベルから一段階下げてテストするのが推奨されています。トークン効率が向上しているため、低い努力量でも品質を維持しやすいとみられます。
キャッシュの検証と移行
キャッシュの動作はレスポンスのusage.input_tokens_detailsで確認できます。cached_tokensはキャッシュから読まれたトークン数、cache_write_tokensは書き込まれたトークン数です。ログにリクエストIDとともに記録し、書き込みが1回、読み取りが多数というパターンを確認しておくとよいでしょう。
移行時には、まず既存のコードをそのまま同じエフォートレベルで実行し、キャッシュの効き方を見ながら調整します。注意点として、キャッシュされるプレフィックスは1,024トークン以上である必要があります。また、リージョンごとにモデルの利用可否が異なるため、事前に確認が必要です。
Cached input is billed at a 90 percent discount (see the Amazon Bedrock pricing page) and stays available for reuse for 30 minutes.
キャッシュされた入力は90%割引で課金され(Amazon Bedrockの料金ページ参照)、30分間再利用が可能です。
日本の開発者・IT企業にとっての意味
日本のIT企業にとって、GPT-5.6をAWS環境で利用できる意味は大きいです。既存のAWS契約やガバナンスを活かしつつ、OpenAIの最新モデルを扱えます。明示的プロンプトキャッシュは、エージェント型ワークロードのコスト削減に直結します。システムプロンプトやツール定義が長い場合、90%割引で再利用できるため、APIコストの予測が立ちやすくなります。また、キャッシュの有効期限が30分と短いため、設計には注意が必要です。
用語解説
- プロンプトキャッシュ
- 同じプロンプトの一部を再利用し、再計算を省く仕組み。Bedrockではキャッシュ読み取りが90%割引になる。
- Responses API
- OpenAIが提供するAPI形式。従来のChat Completions APIの後継と位置づけられる。
- reasoning effort
- モデルが推論に使う計算量のレベル。noneが最低、xhighが最高。
- bedrock-mantle
- Amazon BedrockでOpenAI互換APIを提供するエンドポイント。
出典
Introducing explicit prompt caching for OpenAI GPT-5.6 models on Amazon Bedrock
企業のAI活用顧問を、いまなら無料で承っています
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて一緒に整理します。導入前の相談だけでも構いません。
無料でAI活用の相談をする