Amazon Bedrock tuo eksplisiittisen prompt-välimuistin OpenAI GPT-5.6 -malleille
OpenAI
Amazon Web Services
OpenAI GPT-5.6 Sol, Terra ja Luna ovat nyt yleisesti saatavilla Amazon Bedrockissa, tarjoten kolme kapasiteettitasoa. Julkaisu tuo mukanaan myös eksplisiittisen prompt-välimuistin, joka mahdollistaa tarkan hallinnan välimuistiin tallennettavista promptien osista, ja välimuistiin tallennetuista syötteistä saa 90 prosentin alennuksen.
Amazon Bedrock on ilmoittanut OpenAI GPT-5.6 -mallien, mukaan lukien Sol, Terra ja Luna, yleisestä saatavuudesta. Mallit ovat saatavilla OpenAI-yhteensopivan Responses API:n kautta bedrock-mantle-päätepisteessä. Keskeinen uusi ominaisuus on eksplisiittinen välimuistin käyttö (prompt caching), jossa käyttäjät voivat merkitä välimuistin rajat, ja välimuistissa olevat syötteet laskutetaan 90 % alennuksella ja ovat saatavilla 30 minuutin ajan. Implisiittinen välimuistin käyttö on oletuksena käytössä. GPT-5.6 tukee päättelyn vaatimustasoja (reasoning effort) nollasta (none) erittäin korkeaan (xhigh), funktiokutsuja (function calling) ja jäsenneltyä JSON-tulostetta. Mallit tarjoavat maksu-per-tunnus -hinnoittelun (pay-per-token) AWS:n tietoturva- ja hallintakehysten avulla. GPT-5.6 Sol on suunniteltu monimutkaiseen päättelyyn, Terra tasapainoisiin työkuormiin ja Luna suuren volyymin tehtäviin. Eksplisiittinen välimuistin käyttö on erityisen hyödyllinen agenttipohjaisissa työnkuluissa (agentic workflows), joissa on toistuvia järjestelmäohjeita ja työkalujen määrittelyjä.
Lähde: AWS ML blog —
Alkuperäinen