Sesli Yapay Zeka Temsilcisi Çağrı Sayaçları: 13 Sınav Senaryosu ve Kuruşuna Kadar Maliyet

Bir mühendis, küçük bir üretim şirketinin telefon hattı için bir sesli yapay zeka asistanı kurdu. Sistem, telefon için Voximplant, konuşma için Yandex Realtime (speech-realtime-250923) ve sipariş kartları oluşturmak için Claude kullanıyor. Başlangıçta sistemde 4 saniyelik bir gecikme vardı, ancak bir köprü sunucusu kullanarak ilk ses 554-804 ms içinde geliyor. Mühendis daha sonra özel bir metrik ve maliyet takip sistemi kurdu ve her aramada 27 alanı SQLite'a kaydetti. Üç önemli içgörü ortaya çıktı: kişisel ve spam aramalar başlangıçta hedef aramalar olarak yanlış sınıflandırıldı, beklenen eşyordam iptali sessizce çağrı günlüklerini düşürebilir ve modeller genellikle zaten bildikleri telefon numaralarını ister. Mühendis ayrıca token maliyetlerinin baskın olduğunu (giderlerin %66'sı) ve daha ucuz bir Yandex modelinin daha kötü performans gösterdiğini buldu. Doğrulamadan sonra, sayacın doğruluğu faturalamanın %1'i içindeydi. Hedef çağrı başına maliyet 6,8-8,4 ruble ve mühendis sistemi test etmek için 13 sınav senaryosu oluşturdu. Makale, API tabanlı ölçümün hizmetleri yeniden satmak için aboneliklerden daha dürüst olduğu sonucuna varıyor.