Amazon Bedrock présente l'Optimisation Avancée des Prompts pour la migration de modèles et le réglage des prompts

Amazon Bedrock introduit Advanced Prompt Optimization, un nouvel outil conçu pour automatiser la migration et l'optimisation des prompts sur plusieurs modèles. Le problème traité est l'effort manuel nécessaire pour réajuster les prompts lors du passage à un modèle plus récent, plus rapide ou moins cher, un processus pouvant prendre des jours ou des semaines. L'outil utilise une boucle de rétroaction de type apprentissage par renforcement : il évalue les réponses par rapport à une métrique définie par l'utilisateur, réécrit le prompt et itère jusqu'à ce qu'il soit optimal. Il fonctionne avec jusqu'à cinq modèles dans un seul travail et prend en charge les entrées multimodales (images, PDF). Trois modes d'évaluation sont disponibles : une fonction AWS Lambda personnalisée pour des métriques concrètes, un LLM-as-a-Judge pour des tâches ouvertes avec une grille d'évaluation, et des critères d'orientation pour la voix de marque ou les contraintes de sécurité. Les utilisateurs peuvent soit migrer depuis un modèle de base vers jusqu'à quatre candidats, soit améliorer le prompt sur le même modèle. Les résultats incluent des prompts optimisés, des scores d'évaluation, le délai avant le premier jeton (TTFT, time-to-first-token) et des estimations de coûts. L'outil est accessible via la console AWS, l'API ou le SDK (boto3). Limites par travail : 10 modèles de prompt, 100 échantillons d'évaluation par modèle, 5 modèles, 20 variables textuelles par modèle, 100 fichiers multimodaux par échantillon et 5 critères d'orientation par modèle. Les modèles juges disponibles incluent Claude Opus 4, Claude Sonnet 4.5 et Claude Sonnet 4.6.