Hoe Yahoo het hertargeten van zoekopdrachten verbetert met Amazon Bedrock

Yahoo DSP implementeerde Amazon Bedrock om de uitbreiding van zoekwoorden voor Search Retargeting (SRT) te moderniseren. Het verouderde systeem gebruikte Word2Vec met locality-sensitive hashing (LSH), dat te kampen had met een verouderde woordenschat en beperkt semantisch begrip. De nieuwe generatieve AI-workflow maakt gebruik van Amazon Bedrock om toegang te krijgen tot meerdere grote taalmodellen (large language models, LLM's), waaronder Amazon Nova, Meta Llama en Anthropic's Claude. Na evaluatie werd Anthropic's Claude 3.5 Sonnet v2 geselecteerd vanwege de balans tussen uitbreidingsratio en semantische gelijkenis. Om hallucinaties te verminderen, worden uitgebreide zoekwoorden geverifieerd door embeddings te genereren en overeenkomstsscores te vergelijken met de oorspronkelijke zoekwoorden; alleen die boven een drempelwaarde worden behouden. Het systeem past ook filtering op gevoelige zoekwoorden toe voor en na de inferentie. De verbeterde oplossing werd in productie genomen in het eerste kwartaal van 2025, met tot 600 keer hogere zoekwoorduitbreidingspercentages en tot 5 keer groei in het bereikbare publiek. Yahoo gebruikte Amazon SageMaker Studio voor prototyping en Amazon Bedrock voor serverloze toegang tot funderingsmodellen, waardoor infrastructuurbeheer werd vermeden. Amazon Bedrock biedt flexibele inferentieopties (batch en real-time) en eenvoudige modelupgrades.