在亚马逊Bedrock AgentCore中使用时间策略保护AI代理安全
Amazon Web Services
亚马逊云科技在亚马逊Bedrock AgentCore中引入了时间策略,允许有状态授权规则,在代理请求的轨迹历史背景下评估这些请求。这些策略强制执行工作流顺序、防止数据编造、限制财务风险并要求人工审批,这些策略在网关边界运行以防止绕过。通过一个私人银行代理的实例,展示了使用Dogwood策略语言的具体实现。
Amazon Bedrock AgentCore现在提供时间性策略,将其现有的无状态策略引擎进行扩展,以便在代理会话中结合先前事件来评估每个请求。由于这些策略在AgentCore网关边界运行,即代理代码之外,因此无法被拦截或篡改。用例包括强制执行跨链工具的输出完整性、工具调用顺序、特权操作的人工审批以及数据新鲜度。这些策略作用于通过网关路由的模型上下文协议工具调用、代理间调用和模型推理调用。每个请求都必须携带x-amzn-bedrock-agentcore-policy-session-id标头,会话通过结合会话ID与最终用户身份来定义,最大回溯窗口为24小时。博客文章以一个私人银行代理为例,要求实施策略,如强制工具调用顺序(先获取客户资料,然后加载投资组合,然后重新平衡投资组合)、确保投资组合ID匹配、要求市场价格在交易后1分钟内更新、将会话总交易价值上限设为6万美元、要求超过2.5万美元的交易需经审批、防止以亏损买入和卖出同一证券,以及在不活动15分钟后禁用写入操作。实现使用Dogwood策略语言,该语言支持Cedar策略并启用时间性条件。
来源: AWS ML blog —
原文
