Näin Yahoo parantaa hakukohdistusta Amazon Bedrockin avulla

Yahoo DSP otti käyttöön Amazon Bedrockin modernisoidakseen Search Retargeting (SRT) -hakusanalaajennustaan. Vanha järjestelmä käytti Word2Vec-algoritmia paikallisuustietoisen hajautuksen (locality-sensitive hashing, LSH) kera, mikä kärsi vanhentuneesta sanastosta ja rajallisesta semanttisesta ymmärryksestä. Uusi generatiivinen tekoälytyönkulku hyödyntää Amazon Bedrockia useiden suurten kielimallien (large language models, LLM) käyttöön, mukaan lukien Amazon Nova, Meta Llama ja Anthropicin Claude. Arvioinnin jälkeen valittiin Anthropicin Claude 3.5 Sonnet v2, joka tarjoaa tasapainon laajennussuhteen ja semanttisen samankaltaisuuden välillä. Hallusinaatioiden vähentämiseksi laajennettuja avainsanoja verifioidaan luomalla upotukset ja vertaamalla samankaltaisuuspisteitä alkuperäisiin avainsanoihin; vain kynnyksen ylittävät säilytetään. Järjestelmä suodattaa myös arkaluonteisia avainsanoja ennen päättelyä ja sen jälkeen. Parannettu ratkaisu otettiin tuotantokäyttöön vuoden 2025 ensimmäisellä neljänneksellä, saavuttaen jopa 600 kertaa korkeammat hakusanalaajennusluvut ja jopa 5 kertaa suuremman tavoittavuuden potentiaalisen yleisön keskuudessa. Yahoo käytti Amazon SageMaker Studiota prototyyppien luomiseen ja Amazon Bedrockia palvelimettomaan pääsyyn perusmalleihin, välttäen infrastruktuurin hallintaa. Amazon Bedrock tarjoaa joustavat päättelyvaihtoehdot (eräajot ja reaaliaikainen) sekä suoraviivaiset mallipäivitykset.