Dentro do Mercado de Revezamento que Abastece Revendedores de Tokens e Fraudes
Uma investigação de Matt Lenhart revela um mercado de revenda de tokens de LLM com desconto, operando principalmente na China. Revendedores usam testes gratuitos, bots de back-end desprotegidos, cartões de crédito roubados e ataques de chargeback. O software proxy é baseado em projetos de código aberto one-api e new-api.
Matt Lenhart conduziu uma investigação sobre o mercado de revenda de tokens LLM com desconto, que está baseado principalmente na China. Os revendedores fornecem acesso a proxies LLM, oferecendo descontos significativos nos preços padrão de API por meio do abuso de testes gratuitos, proxy através de bots de suporte não seguros, bem como uso de cartões de crédito roubados ou ataques de estorno. O software proxy utilizado é de código aberto — principalmente o one-api e seu fork mais ativamente desenvolvido, o new-api, ambos produtos legítimos de proxy de API que podem ser usados para balanceamento de carga em um pool de credenciais. Compradores buscam tokens baratos, objetivam contornar restrições geográficas e, em alguns casos, coletam dados para destilação de modelos. O autor do artigo observa que a existência desse mercado o torna ainda mais cauteloso ao implantar publicamente aplicações baseadas em LLM devido ao medo de abuso. Ele pede que os fornecedores de LLM imponham limites mais rigorosos para chaves de API.
Fonte: Simon Willison —
original