Amazon Bedrock führt erweiterte Prompt-Optimierung für Modellmigration und Prompt-Tuning ein

Amazon Bedrock stellt Advanced Prompt Optimization vor, ein neues Tool, das die Migration und Optimierung von Prompts über mehrere Modelle hinweg automatisieren soll. Das adressierte Problem ist der manuelle Aufwand, der erforderlich ist, um Prompts beim Wechsel zu einem neueren, schnelleren oder günstigeren Modell neu abzustimmen – ein Prozess, der Tage oder Wochen dauern kann. Das Tool nutzt eine Feedbackschleife nach dem Vorbild des bestärkenden Lernens: Es bewertet Antworten anhand einer benutzerdefinierten Metrik, schreibt den Prompt um und iteriert, bis ein optimales Ergebnis erzielt ist. Es arbeitet mit bis zu fünf Modellen in einem einzigen Auftrag und unterstützt multimodale Eingaben (Bilder, PDFs). Drei Bewertungsmodi stehen zur Verfügung: eine benutzerdefinierte AWS-Lambda-Funktion für konkrete Metriken, eine LLM-als-Richter-Funktion für offene Aufgaben mit einer Bewertungsmatrix sowie Steuerungskriterien für Markenstimme oder Sicherheitsvorgaben. Benutzer können entweder von einem Basismodell auf bis zu vier Kandidaten migrieren oder den Prompt auf demselben Modell verbessern. Zu den Ausgaben gehören optimierte Prompts, Bewertungsergebnisse, die Zeit bis zum ersten Token (Time-to-First-Token, TTFT) und Kostenschätzungen. Das Tool ist über die AWS-Konsole, die API oder das SDK (boto3) zugänglich. Pro Auftrag gelten folgende Grenzen: 10 Prompt-Vorlagen, 100 Bewertungsbeispiele pro Vorlage, 5 Modelle, 20 Textvariablen pro Vorlage, 100 multimodale Dateien pro Beispiel und 5 Steuerungskriterien pro Vorlage. Verfügbare Richtermodelle umfassen Claude Opus 4, Claude Sonnet 4.5 und Claude Sonnet 4.6.