Cómo Yahoo mejora la reorientación de búsqueda con Amazon Bedrock

Yahoo DSP implementó Amazon Bedrock para modernizar la expansión de palabras clave de su Search Retargeting (SRT). El sistema heredado utilizaba Word2Vec con hashing sensible a la localidad (locality-sensitive hashing, LSH), que sufría de un vocabulario desactualizado y una comprensión semántica limitada. El nuevo flujo de trabajo de IA generativa utiliza Amazon Bedrock para acceder a múltiples LLM, incluidos Amazon Nova, Meta Llama y Claude de Anthropic. Tras la evaluación, se seleccionó Claude 3.5 Sonnet v2 de Anthropic por su equilibrio entre tasa de expansión y similitud semántica. Para reducir las alucinaciones, las palabras clave expandidas se verifican generando embeddings y comparando las puntuaciones de similitud con las palabras clave originales; solo se conservan aquellas por encima de un umbral. El sistema también aplica filtrado de palabras clave sensibles antes y después de la inferencia. La solución mejorada se lanzó en producción en el primer trimestre de 2025, logrando tasas de expansión de palabras clave hasta 600 veces superiores y un crecimiento de hasta 5 veces en el alcance de la audiencia direccionable. Yahoo utilizó Amazon SageMaker Studio para la creación de prototipos y Amazon Bedrock para el acceso sin servidor a modelos fundacionales, evitando la gestión de infraestructura. Amazon Bedrock ofrece opciones de inferencia flexibles (por lotes y en tiempo real) y actualizaciones sencillas de modelos.