Agentic Retrieval für die Managed Knowledge Base von Amazon Bedrock

AWS hat einen neuen agentic retrieval Modus für Amazon Bedrock Managed Knowledge Bases angekündigt, der über die API AgenticRetrieveStream verfügbar ist. Im Gegensatz zum klassischen einmaligen Retrieve, der mit zusammengesetzten, vergleichenden und forschungsbezogenen Fragen nicht gut zurechtkommt, nutzt der agentic retrieval einen Planungszyklus auf Basis des Foundation-Modells: Das Modell zerlegt die Anfrage in Unterfragen, führt für jede eine Suche durch, bewertet, ob genügend Fakten gefunden wurden, und wiederholt die Iterationen bei Bedarf. Das Ergebnis ist ein Stream von Trace-Ereignissen, der Planungs-, Such- und finale deduplizierte Snippets sowie bei Bedarf eine generierte begründete Antwort umfasst. Die API unterstützt bis zu fünf Wissensdatenbanken (knowledge bases) mit einer Anfrageweiterleitung basierend auf deren Textbeschreibung. Zu den Konfigurationsparametern gehören maxAgentIteration (maximale Iterationen) und die Auswahl des Planungsmodells. Die Kosten werden pro Planeraufruf zuzüglich der internen Retrieve-Aufrufe berechnet. Im MuSiQue-Benchmark erzielte der agentic retrieval einen absoluten Recall-Zuwachs von 20% im Vergleich zum einmaligen Retrieve, wobei der größte Effekt bei den schwierigsten Fragen auftrat (bis zu +37,3% für 4-schrittige Fragen). Praktische Empfehlungen umfassen die Verwendung des agentic retrieval für komplexe Anfragen und Retrieve für einfache sowie die obligatorische Protokollierung von Trace-Ereignissen in Amazon CloudWatch.