Amazon Bedrock Memperkenalkan Optimasi Prompt Tingkat Lanjut untuk Migrasi Model dan Penyesuaian Prompt

Amazon Bedrock memperkenalkan Advanced Prompt Optimization, alat baru yang dirancang untuk mengotomatiskan migrasi dan optimisasi prompt di berbagai model. Masalah yang diatasi adalah upaya manual yang diperlukan untuk menyesuaikan ulang prompt saat beralih ke model yang lebih baru, lebih cepat, atau lebih murah—sebuah proses yang bisa memakan waktu berhari-hari atau berminggu-minggu. Alat ini menggunakan mekanisme umpan balik bergaya pembelajaran penguatan (reinforcement learning): alat ini mengevaluasi respons terhadap metrik yang ditentukan pengguna, menulis ulang prompt, dan melakukan iterasi hingga optimal. Alat ini bekerja dengan hingga lima model dalam satu tugas dan mendukung input multimodal (gambar, PDF). Tiga mode evaluasi tersedia: fungsi AWS Lambda kustom untuk metrik konkret, LLM-as-a-Judge untuk tugas terbuka dengan rubrik, dan kriteria pengarah untuk suara merek atau batasan keamanan. Pengguna dapat memigrasi dari model dasar ke hingga empat kandidat, atau meningkatkan prompt pada model yang sama. Output mencakup prompt yang dioptimalkan, skor evaluasi, waktu hingga token pertama (TTFT), dan perkiraan biaya. Alat ini dapat diakses melalui konsol AWS, API, atau SDK (boto3). Batas per tugas: 10 templat prompt, 100 sampel evaluasi per templat, 5 model, 20 variabel teks per templat, 100 file multimodal per sampel, dan 5 kriteria pengarah per templat. Model hakim yang tersedia termasuk Claude Opus 4, Claude Sonnet 4.5, dan Claude Sonnet 4.6.