بوابة AgentCore تدعم الآن تحديد معدل حركة مرور الذكاء الاصطناعي

بوابة Amazon Bedrock AgentCore، وهي بوابة ذكاء اصطناعي مُدارة بالكامل وبدون خادم توفر نقطة دخول واحدة وآمنة لحركة مرور الذكاء الاصطناعي، تدعم الآن تحديد معدل الاستخدام. يتيح هذا التحكم الدقيق في مقدار حركة المرور التي يمكن للمستخدمين الأفراد استهلاكها من خلال البوابة. يوفر تحديد معدل الاستخدام تحكمًا لكل مستخدم في استخدام الأدوات ونماذج الاستدلال والوكلاء، مع قواعد قائمة على OAuth أو IAM للطلبات في الدقيقة والاتصالات المتزامنة وإنتاجية الرموز. تدعم البوابة ثلاثة أنواع من الأهداف: أهداف MCP، وأهداف الاستدلال، وأهداف تمرير HTTP. تتضمن مقاييس تحديد المعدل المدعومة حدود معدل الطلبات (RPS/RPM) لجميع الأهداف، وحدود معدل الرموز (TPM) لأهداف الاستدلال، وحدود معدل الاتصالات (CPS) لجميع الأهداف. تحدد مفاتيح الأبعاد كيفية تجميع حركة المرور في مجموعات معدل، بما في ذلك targetName وtoolName وqualifiedModelId وادعاءات الهوية مثل ادعاءات JWT ومبادئ IAM. تحدد الإدخالات الإنتاجية المسموح بها لكل مجموعة، مع دعم الأحرف البدل. يتم فرض طبقتين من تحديد معدل الاستخدام: الحدود المحددة من قبل العميل وحصص الخدمة. تتضمن الحدود المحددة من قبل العميل حدودًا على مستوى المستخدم ومستوى الهدف ومستوى الهدف-المستخدم الهجين. يوضح مثال تكوين حدودًا لكل مجموعة ولكل مستخدم لمجموعات المستخدمين الأساسية والمتقدمة والنسخة التجريبية، مع نماذج مقيدة لمستخدمي النسخة التجريبية.