Contador de Chamadas do Agente de IA por Voz: 13 Cenários de Teste e Custo até o Centavo
Яндекс
Anthropic
Um engenheiro desenvolveu um agente de IA por voz para uma pequena empresa de manufatura, lidando com chamadas perdidas e criando cartões de pedido via SMS. Ele construiu um sistema detalhado de rastreamento de custos e métricas, registrando 27 campos por chamada, e criou 13 cenários de teste para avaliar o sistema. O custo por chamada alvo é de 6,8 a 8,4 rublos, com tokens (processamento de prompt) representando dois terços das despesas.
Um engenheiro configurou um agente de IA de voz para a linha telefônica de uma pequena empresa de manufatura. O sistema usa Voximplant para telefonia, Yandex Realtime (speech-realtime-250923) para fala e Claude para criar cartões de pedido. Inicialmente, o sistema tinha um atraso de 4 segundos, mas usando um servidor de ponte, o primeiro som chega em 554-804 ms. O engenheiro então construiu um sistema personalizado de métricas e rastreamento de custos, registrando 27 campos por chamada no SQLite. Três insights principais surgiram: chamadas pessoais e de spam foram inicialmente classificadas incorretamente como chamadas alvo, o cancelamento aguardado de corrotinas poderia descartar silenciosamente logs de chamadas, e os modelos frequentemente pedem números de telefone que já conhecem. O engenheiro também descobriu que os custos de tokens dominam (66% das despesas), e que um modelo Yandex mais barato teve desempenho pior. Após verificação, a precisão do contador estava dentro de 1% da cobrança. O custo por chamada alvo é de 6,8-8,4 rublos, e o engenheiro criou 13 cenários de exame para testar o sistema. O artigo conclui que a medição baseada em API é mais honesta do que assinaturas para revenda de serviços.
Fonte: Habr — хаб ИИ —
original
