AWS为AgentCore网关引入AI流量速率限制功能

Amazon Web Services（AWS）宣布了一项功能，用于在其AgentCore网关上配置AI流量的速率限制。该功能旨在帮助组织管理发送至AI模型的请求量，防止过载并控制成本。AgentCore网关作为AI模型调用的集中入口，新的速率限制功能可实现对AI流量的精细控制。管理员可以设置策略，以定义每个客户端或API的最大请求速率，确保公平使用和系统稳定性。这对于部署多个AI应用并需要高效分配资源的企业尤为有用。该功能是AWS更广泛AI战略的一部分，旨在为AI工作负载提供稳健的基础设施。