Amazon Bedrock esittelee Advanced Prompt Optimization -työkalun mallien siirtoon ja promptien optimointiin

Amazon Bedrock esittelee Advanced Prompt Optimization -työkalun, joka on suunniteltu automatisoimaan promptien siirtäminen ja optimointi useiden mallien välillä. Työkalu ratkaisee ongelman, jossa prompteja joudutaan hienosäätämään manuaalisesti siirryttäessä uudempaan, nopeampaan tai halvempaan malliin – prosessiin voi kulua päiviä tai viikkoja. Työkalu käyttää vahvistusoppimisen tapaista palautesilmukkaa: se arvioi vastauksia käyttäjän määrittämän mittarin perusteella, kirjoittaa promptin uudelleen ja toistaa, kunnes optimaalinen tulos saavutetaan. Työkalu toimii jopa viiden mallin kanssa yhdessä työssä ja tukee multimodaalisia syötteitä (kuvat, PDF-tiedostot). Arviointitiloja on kolme: mukautettu AWS Lambda -funktio konkreettisille mittareille, LLM-tuomari (Large Language Model as a Judge) avoimille tehtäville arviointikriteeristön kanssa, ja ohjauskriteerit brändiäänelle tai turvallisuusrajoituksille. Käyttäjät voivat joko siirtyä perusmallista enintään neljään ehdokasmalliin tai parantaa promptia samassa mallissa. Tuloksina saadaan optimoidut promptit, arviointipisteet, ensimmäisen tokenin aikaviive (Time to First Token, TTFT) ja kustannusarviot. Työkalu on käytettävissä AWS-konsolin, API:n tai SDK:n (boto3) kautta. Työkohtaiset rajoitukset: 10 promptipohjaa, 100 arviointinäytettä pohjaa kohden, 5 mallia, 20 tekstimuuttujaa pohjaa kohden, 100 multimodaalista tiedostoa näytettä kohden ja 5 ohjauskriteeriä pohjaa kohden. Saatavilla olevia tuomarimalleja ovat Claude Opus 4, Claude Sonnet 4.5 ja Claude Sonnet 4.6.