Amazon Bedrock представляет явное кэширование промптов для моделей OpenAI GPT-5.6
OpenAI
Amazon Web Services
OpenAI GPT-5.6 Sol, Terra и Luna теперь общедоступны на Amazon Bedrock, предлагая три уровня возможностей. Релиз также вводит явное кэширование промптов, позволяющее точно контролировать кэшируемые части промптов со скидкой 90% на кэшированные входные данные.
Amazon Bedrock объявил о начале общего доступа к моделям OpenAI GPT-5.6, включая Sol, Terra и Luna. Модели доступны через совместимый с OpenAI API Responses на конечной точке bedrock-mantle. Ключевой новой функцией является явное кэширование подсказок (prompt caching), где пользователи могут отмечать границы кэша, при этом кэшированные входные данные тарифицируются со скидкой 90% и доступны в
Показать ещё ↓
Источник: AWS ML blog —
оригинал