音声AIエージェントの通話カウンター:13の試験シナリオとコストを1円単位まで算出
Яндекс
Anthropic
あるエンジニアが中小製造業向けに音声AIエージェントを開発し、着信応答とSMSによる注文カード作成を処理しました。彼は通話ごとに27項目のデータを記録する詳細なコスト・メトリクス追跡システムを構築し、システム評価のための13の試験シナリオを作成しました。対象通話ごとのコストは6.8〜8.4ルーブルで、費用の3分の2をトークン(プロンプト処理)が占めています。
あるエンジニアが、中小規模の製造会社の電話回線用に音声AIエージェントを構築しました。このシステムは、テレフォニーにVoximplant、音声認識にYandex Realtime(speech-realtime-250923)、注文カード作成にClaudeを使用しています。当初は4秒の遅延がありましたが、ブリッジサーバーを導入することで、最初の音声が554~804ミリ秒で届くようになりました。その後、エンジニアはカスタムのメトリクスとコスト追跡システムを構築し、通話ごとに27のフィールドをSQLiteに記録しました。ここから3つの重要な洞察が得られました。まず、個人宛の電話や迷惑電話が当初ターゲットコールとして誤分類されていたこと、次に、待機中のコルーチンキャンセルによって通話ログが静かに失われる可能性があること、そして、モデルは既に知っている電話番号を尋ねることが多いことです。また、トークンコストが支出の66%を占めており、より安価なYandexモデルは性能が低いことも判明しました。検証の結果、カウンターの精度は請求額の1%以内でした。ターゲットコール1件あたりのコストは6.8~8.4ルーブルで、エンジニアはシステムをテストするために13の試験シナリオを作成しました。この記事は、APIベースのメータリングが、サービス再販におけるサブスクリプションよりも誠実であると結論付けています。
出典: Habr — хаб ИИ —
原文
