Voice-AI-Agent-Gesprächszähler: 13 Testszenarien und Kosten bis auf den Cent genau

Ein Ingenieur richtete für die Telefonleitung eines kleinen Fertigungsunternehmens einen Sprach-KI-Agenten ein. Das System nutzt Voximplant für die Telefonie, Yandex Realtime (speech-realtime-250923) für die Sprache und Claude für die Erstellung von Auftragskarten. Anfangs hatte das System eine Verzögerung von 4 Sekunden, aber durch die Verwendung eines Brückenservers kommt der erste Ton innerhalb von 554-804 ms. Der Ingenieur baute dann ein individuelles Metrik- und Kostenverfolgungssystem auf, das 27 Felder pro Anruf in SQLite protokolliert. Drei wichtige Erkenntnisse ergaben sich: Persönliche und Spam-Anrufe wurden zunächst fälschlich als Zielanrufe klassifiziert, das Abbrechen von erwarteten Koroutinen konnte stillschweigend Anrufprotokolle verlieren, und Modelle fragen oft nach Telefonnummern, die sie bereits kennen. Der Ingenieur stellte auch fest, dass die Token-Kosten dominieren (66% der Ausgaben) und dass ein günstigeres Yandex-Modell schlechter abschnitt. Nach der Überprüfung lag die Genauigkeit des Zählers innerhalb von 1% der Abrechnung. Die Kosten pro Zielanruf betragen 6,8-8,4 Rubel, und der Ingenieur erstellte 13 Prüfungsszenarien, um das System zu testen. Der Artikel kommt zu dem Schluss, dass API-basierte Messung bei Weiterverkauf von Diensten ehrlicher ist als Abonnements.