Amazon Bedrock、OpenAI GPT-5.6モデル向け明示的プロンプトキャッシングを導入
OpenAI
Amazon Web Services
OpenAI GPT-5.6のSol、Terra、LunaがAmazon Bedrock上で一般提供開始。3つの能力階層を提供。また、明示的プロンプトキャッシングを導入し、キャッシュするプロンプト部分を正確に制御可能。キャッシュされた入力は90%割引。
Amazon Bedrockは、OpenAI GPT-5.6モデル(Sol、Terra、Luna)の一般提供を発表しました。これらのモデルは、bedrock-mantleエンドポイント上でOpenAI互換のResponses APIからアクセス可能です。新機能として、明示的なプロンプトキャッシングが導入され、ユーザーはキャッシュ境界を設定できます。キャッシュされた入力は90%割引で請求され、30分間利用可能です。暗黙的キャッシングはデフォルトで有効です。GPT-5.6は、なしからxhighまでの推論努力レベル、関数呼び出し、構造化JSON出力をサポートしています。モデルは従量課金制で、AWSのセキュリティとガバナンスの恩恵を受けられます。GPT-5.6 Solは複雑な推論、Terraはバランスの取れたワークロード、Lunaは高負荷タスク向けに設計されています。明示的なキャッシング機能は、繰り返されるシステム命令やツール定義を含むエージェンティックワークフローに特に有益です。
出典: AWS ML blog —
原文
