Cara Yahoo Meningkatkan Penargetan Ulang Pencarian Menggunakan Amazon Bedrock

Yahoo DSP mengimplementasikan Amazon Bedrock untuk memodernisasi ekspansi kata kunci Search Retargeting (SRT). Sistem lama menggunakan Word2Vec dengan locality-sensitive hashing (LSH), yang mengalami masalah kosakata usang dan pemahaman semantik yang terbatas. Alur kerja AI generatif yang baru menggunakan Amazon Bedrock untuk mengakses beberapa Large Language Model (LLM), termasuk Amazon Nova, Meta Llama, dan Anthropic Claude. Setelah evaluasi, Anthropic Claude 3.5 Sonnet v2 dipilih karena keseimbangan antara rasio ekspansi dan kesamaan semantik. Untuk mengurangi halusinasi, kata kunci yang diperluas diverifikasi dengan menghasilkan embedding dan membandingkan skor kesamaan terhadap kata kunci asli; hanya kata kunci yang berada di atas ambang batas yang dipertahankan. Sistem ini juga menerapkan pemfilteran kata kunci sensitif sebelum dan sesudah inferensi. Solusi yang ditingkatkan ini diluncurkan dalam produksi pada kuartal pertama 2025, mencapai tingkat ekspansi kata kunci hingga 600 kali lipat dan pertumbuhan hingga 5 kali lipat dalam jangkauan audiens yang dapat dialamatkan. Yahoo menggunakan Amazon SageMaker Studio untuk pembuatan prototipe dan Amazon Bedrock untuk akses tanpa server ke model dasar, sehingga menghindari pengelolaan infrastruktur. Amazon Bedrock menyediakan opsi inferensi yang fleksibel (batch dan real-time) serta peningkatan model yang mudah.