Wie Yahoo seine Such-Retargeting-Funktionen mit Amazon Bedrock verbessert

Yahoo DSP hat Amazon Bedrock implementiert, um seine Search Retargeting (SRT)-Keyword-Erweiterung zu modernisieren. Das alte System verwendete Word2Vec mit Locality-Sensitive Hashing (LSH), was unter veraltetem Vokabular und eingeschränktem semantischem Verständnis litt. Der neue generative KI-Workflow nutzt Amazon Bedrock, um auf mehrere Large Language Models (LLMs) zuzugreifen, darunter Amazon Nova, Meta Llama und Anthropics Claude. Nach der Evaluierung wurde Anthropics Claude 3.5 Sonnet v2 aufgrund seiner Balance zwischen Expansionsrate und semantischer Ähnlichkeit ausgewählt. Um Halluzinationen zu reduzieren, werden erweiterte Keywords überprüft, indem Embeddings generiert und Ähnlichkeitswerte mit den ursprünglichen Keywords verglichen werden; nur solche oberhalb eines Schwellenwerts werden beibehalten. Das System wendet auch vor und nach der Inferenz eine Filterung sensibler Keywords an. Die verbesserte Lösung wurde im ersten Quartal 2025 produktiv eingeführt und erreicht bis zu 600-fach höhere Keyword-Expansionsraten und bis zu 5-faches Wachstum der adressierbaren Zielgruppenreichweite. Yahoo nutzte Amazon SageMaker Studio für das Prototyping und Amazon Bedrock für den serverlosen Zugriff auf Foundation Models, wodurch das Management der Infrastruktur entfällt. Amazon Bedrock bietet flexible Inferenzoptionen (Batch und Echtzeit) sowie unkomplizierte Modellupgrades.