Productie-agenten optimaliseren met Amazon Bedrock AgentCore Observability

Dit bericht is deel 2 van een serie over het debuggen van AI-agenten, gericht op agenten die correct werken maar slecht presteren. Scenario 3 behandelt prestatieknelpunten: symptomen zijn onder meer geleidelijke toename van latentie, P95-responsetijden die drempelwaarden overschrijden, maar lage foutpercentages. Om dit te diagnosticeren, vraag CloudWatch om invocaties met hoge latentie, analyseer de tijdas van het verzoek via OpenTelemetry-traces en controleer de latentie van het ophalen van herinneringen (deze moet onder 200 ms liggen) en de latentie van tool-aanroepen. De hoofdoorzaken zijn trage tooluitvoering, overmatige token-generatie en sequentiële verwerking. Oplossingen zijn onder meer caching, verbindingspooling, database-indexering, het optimaliseren van prompts voor beknoptheid en het parallel uitvoeren van onafhankelijke tool-aanroepen. Scenario 4 behandelt geheugenproblemen in langlopende sessies, waarbij het geheugengebruik onbeperkt groeit, wat leidt tot tokenlimieten en sessiefouten. Om dit te identificeren, vraag om lange sessies met hoog geheugengebruik, onderzoek de patronen van geheugenextractie en controleer op extractiefouten. De hoofdoorzaken zijn onjuist geconfigureerde instellingen; oplossingen omvatten geheugenconsolidatie, naamruimte-sjablonen en het instellen van eventExpiryDuration. Het bericht besluit met best practices voor productieomgevingen: uitgebreide instrumentatie, CloudWatch-alarmen, dashboards en het gebruik van AgentCore Evaluators en Insights voor proactieve monitoring.