Amazon Bedrock、OpenAI GPT-5.6モデル向け明示的なプロンプトキャッシングを導入
OpenAI
Amazon Web Services
OpenAI GPT-5.6 Sol、Terra、LunaがAmazon Bedrock上で一般提供を開始し、3つの能力階層を提供します。このリリースでは明示的なプロンプトキャッシングも導入され、キャッシュするプロンプト部分を正確に制御でき、キャッシュされた入力に対して90%の割引が適用されます。
Amazon Bedrockは、OpenAI GPT-5.6モデル(Sol、Terra、Luna)の一般提供を発表しました。これらのモデルは、bedrock-mantleエンドポイント上でOpenAI互換のResponses APIからアクセス可能です。新機能として、明示的なプロンプトキャッシングが導入され、ユーザーはキャッシュ境界を設定できます。キャッシュされた入力は90%割引で請求され、30分間利用可能です。暗黙的キャッシングはデフォルトで有効です。GPT-5.6は、なしからxhighまでの推論努力レベル、関数呼び出し、構造化JSON出力をサポートしています。モデルは従量課金制で、AWSのセキュリティとガバナンスの恩恵を受けられます。GPT-5.6 Solは複雑な推論、Terraはバランスの取れたワークロード、Lunaは高負荷タスク向けに設計されています。明示的なキャッシング機能は、繰り返されるシステム命令やツール定義を含むエージェンティックワークフローに特に有益です。
出典: AWS ML blog —
原文
