AgentCore网关现已支持人工智能流量的速率限制

Amazon Bedrock AgentCore 网关，一个完全托管、无服务器的 AI 网关，为 AI 流量提供单一安全入口，现支持速率限制。这允许对通过网关的单个用户可消费的流量进行精细控制。速率限制为工具、推理模型和代理的使用提供按用户控制，基于 OAuth 或 IAM 规则，涵盖每分钟请求数、并发连接数和令牌吞吐量。网关支持三种目标类型：MCP 目标、推理目标和 HTTP 直通目标。支持的速率限制指标包括所有目标的请求速率限制（RPS/RPM）、推理目标的令牌速率限制（TPM）以及所有目标的连接速率限制（CPS）。维度键定义流量如何分组到速率桶中，包括 targetName、toolName、qualifiedModelId 以及身份声明（如 JWT 声明和 IAM 主体）。条目指定每个桶的允许吞吐量，并支持通配符。强制实施两层速率限制：客户自定义限制和服务配额。客户自定义限制包括用户级、目标级以及混合目标-用户级限制。示例配置展示了 Basic、Advanced 和 Beta 用户组的按组和按用户限制，并对 Beta 用户组应用受限模型。