Amazon Bedrock, Model Geçişi ve Prompt Ayarlaması için Gelişmiş Prompt Optimizasyonu Sunuyor

Amazon Bedrock, Gelişmiş Prompt Optimizasyonu adlı yeni bir aracı tanıttı. Bu araç, prompt'ların birden fazla model arasında otomatik olarak taşınması ve optimize edilmesi için tasarlandı. Ele alınan sorun, daha yeni, daha hızlı veya daha ucuz bir modele geçerken prompt'ların yeniden ayarlanması için gereken manuel çaba—bu süreç günler veya haftalar sürebiliyor. Araç, pekiştirmeli öğrenme tarzı bir geri bildirim döngüsü kullanıyor: kullanıcı tanımlı bir metriğe karşı yanıtları değerlendiriyor, prompt'u yeniden yazıyor ve optimal hale gelene kadar yineliyor. Tek bir işte en fazla beş modelle çalışıyor ve çok modlu girdileri (görseller, PDF'ler) destekliyor. Üç değerlendirme modu mevcut: somut metrikler için özel bir AWS Lambda işlevi, açık uçlu görevler için bir derecelendirme anahtarıyla birlikte LLM-as-a-Judge (Model Yargıç olarak) ve marka sesi veya güvenlik kısıtlamaları için yönlendirme kriterleri. Kullanıcılar ya bir temel modelden en fazla dört adaya geçiş yapabilir ya da aynı modelde prompt'u iyileştirebilir. Çıktılar arasında optimize edilmiş prompt'lar, değerlendirme puanları, ilk token'a kadar geçen süre (TTFT) ve maliyet tahminleri yer alır. Araca AWS konsolu, API veya SDK (boto3) aracılığıyla erişilebilir. İş başına limitler: 10 prompt şablonu, şablon başına 100 değerlendirme örneği, 5 model, şablon başına 20 metin değişkeni, örnek başına 100 çok modlu dosya ve şablon başına 5 yönlendirme kriteri. Mevcut yargıç modeller arasında Claude Opus 4, Claude Sonnet 4.5 ve Claude Sonnet 4.6 bulunur.