PolyAI Dialog-RSN-1'i Tanıttı: Konuşma Yönetimi, Konuşma Tanıma, Fonksiyon Çağırma ve Yanıt Üretimini Birleştiren Ses-Yerli Diyalog Modeli
PolyAI
OpenAI
Google/DeepMind
Alibaba/Qwen
Mistral
PolyAI, sesi doğrudan işleyen ve konuşma yönetimi, konuşma tanıma, fonksiyon çağırma ve yanıt üretimini birleştiren ses-yerli bir diyalog modeli olan Dialog-RSN-1'i yayınladı. Model halihazırda üretimde kullanılıyor; 300 milisaniyenin altında yanıt süresi sağlıyor ve tutma oranında yüzde 11, gecikmede yüzde 37 iyileşme gösteriyor. Yalnızca PolyAI platformu üzerinden erişilebilir; açık ağırlıkları veya genel bir API'si yoktur.
PolyAI, Dialog-RSN-1'i tanıttı: arayanın sesini doğrudan algılayan, transkript okuyan bir diyalog modeli değil. Bu model, replik yönetimi, konuşma tanıma, fonksiyon çağırma ve yanıt üretimini tek bir ses-yerli modelde birleştiriyor ve şimdiden canlı üretim çağrılarını işliyor. Modelin girdisi ses, ancak metin-konuşma (TTS) ayrı tutuluyor, bu da ses üzerinde kontrol sağlıyor. Model sürekli bir akış yerine istek üzerine çalışıyor, bu da GPU'yu sürekli meşgul etmiyor. İlk çıktı token'ı replik kararı: EMPTY, ONGOING veya COMPLETE. PolyAI, 300 ms'nin altında yanıt süresi, restoran grubunda %11 göreceli sürdürme (containment) iyileştirmesi ve bir sigorta şirketinde %37 gecikme azalması bildiriyor. Model yalnızca PolyAI platformu üzerinden erişilebilir; açık ağırlıklar ve genel API yok, İngilizce. Mimari, açık ağırlıklı çok modlu modellerin, kendi verileri üzerinde denetimli ve pekiştirmeli ince ayar kullanılarak sonradan eğitilmesini içeriyor. PolyAI, Gemma, GPT-OSS, Qwen ve Mistral'ı değerlendirdi. Gecikme optimizasyonu, dikkat önbelleğinin ön doldurulması, eklemeli (append) prompt şablonu, her arayanı aynı GPU'ya yönlendirme, ortalama 3.9 token kabulüyle spekülatif taslak (drafting) ve RFT sırasında öğrenilen otomatik akıl yürütmeyi içeriyor. Transkripsiyon, konuşma üretimiyle paralel olarak en sonda yapılıyor. PolyAI, modeli açmayı planladığı dahili Dialog-Eval kıyaslama setinde değerlendirdi. İngilizce dışındaki diller için Raven 3.5 öneriliyor. Dialog-Eval hakkında teknik rapor ve makale planlanıyor.
Kaynak: MarkTechPost —
orijinal
