Amazon Bedrock, OpenAI GPT-5.6 모델을 위한 명시적 프롬프트 캐싱 도입
OpenAI
Amazon Web Services
OpenAI GPT-5.6의 Sol, Terra, Luna 모델이 Amazon Bedrock에서 정식 출시되어 세 가지 성능 계층을 제공합니다. 또한 명시적 프롬프트 캐싱이 도입되어 캐시된 프롬프트 부분을 정밀하게 제어할 수 있으며, 캐시된 입력에 대해 90% 할인이 적용됩니다.
Amazon Bedrock에서 OpenAI GPT-5.6 모델(Sol, Terra, Luna)의 일반 공급을 발표했습니다. 이 모델들은 bedrock-mantle 엔드포인트의 OpenAI 호환 Responses API를 통해 접근할 수 있습니다. 주요 새로운 기능은 명시적 프롬프트 캐싱으로, 사용자가 캐시 경계를 표시할 수 있으며 캐시된 입력은 90% 할인된 요금으로 청구되고 30분 동안 사용할 수 있습니다. 암시적 캐싱은 기본적으로 활성화되어 있습니다. GPT-5.6은 '없음'부터 '매우 높음'까지의 추론 노력 수준, 함수 호출, 구조화된 JSON 출력을 지원합니다. 이 모델들은 AWS 보안 및 거버넌스와 함께 토큰당 과금 방식을 제공합니다. GPT-5.6 Sol은 복잡한 추론, Terra는 균형 잡힌 워크로드, Luna는 대용량 작업에 맞게 설계되었습니다. 명시적 캐싱 기능은 반복적인 시스템 지침과 도구 정의가 있는 에이전틱 워크플로우에 특히 유용합니다.
출처: AWS ML blog —
원문
