Sicherung von KI-Agenten mit zeitlichen Richtlinien in Amazon Bedrock AgentCore
Amazon Web Services
AWS führt zeitliche Richtlinien in Amazon Bedrock AgentCore ein, die zustandsbehaftete Autorisierungsregeln ermöglichen, die Agentenanfragen im Kontext ihrer Verlaufshistorie bewerten. Diese Richtlinien erzwingen die Reihenfolge von Arbeitsabläufen, verhindern Datenfabrikation, begrenzen finanzielle Risiken und erfordern menschliche Genehmigung, wobei sie am Gateway-Rand ausgeführt werden, um Umgehungen zu verhindern. Ein praktisches Beispiel mit einem Private-Banking-Agenten demonstriert die Implementierung mit der Dogwood-Richtliniensprache.
Amazon Bedrock AgentCore bietet jetzt zeitliche Richtlinien (temporal policies) an, die die bestehende zustandslose Richtlinien-Engine erweitern, um jede Anfrage im Kontext früherer Ereignisse in einer Agentensitzung zu bewerten. Da sie am AgentCore-Gateway-Rand außerhalb des Agentencodes ausgeführt werden, können sie nicht abgefangen oder manipuliert werden. Zu den Anwendungsfällen gehören die Durchsetzung der Ausgabeintegrität über verkettete Tools hinweg, die Reihenfolge von Tool-Aufrufen, die Genehmigung durch Menschen für privilegierte Aktionen und die Aktualität von Daten. Die Richtlinien wirken auf Model Context Protocol (MCP)-Tool-Aufrufe, Agent-zu-Agent-Aufrufe und Modellinferenzaufrufe, die über das Gateway geleitet werden. Jede Anfrage muss einen x-amzn-bedrock-agentcore-policy-session-id-Header enthalten, und Sitzungen werden definiert, indem die Sitzungs-ID mit der Identität des Endbenutzers kombiniert wird, mit einem maximalen Rückblickfenster von 24 Stunden. Der Blogbeitrag veranschaulicht ein Beispiel eines Private-Banking-Agenten, der Richtlinien erfordert, wie die Durchsetzung der Reihenfolge von Tool-Aufrufen (get_client_profile, dann load_portfolio, dann rebalance_portfolio), die Sicherstellung, dass portfolio_id übereinstimmt, die Anforderung aktueller Marktpreise innerhalb von 1 Minute vor dem Handel, die Begrenzung des gesamten Handelswerts auf 60.000 US-Dollar pro Sitzung, die Genehmigung für Trades über 25.000 US-Dollar, die Verhinderung von Verkäufen und Käufen desselben Wertpapiers mit Verlust sowie die Deaktivierung von Schreiboperationen nach 15 Minuten Inaktivität. Die Implementierung verwendet die Dogwood-Richtliniensprache, die Cedar-Richtlinien unterstützt und zeitliche Bedingungen ermöglicht.
Quelle: AWS ML blog —
Original
