Dentro del mercado de reventa que impulsa a los revendedores de tokens y el fraude
Una investigación de Matt Lenhart revela un mercado de reventa de tokens de LLM con descuento, que opera principalmente en China. Los revendedores utilizan pruebas gratuitas, bots de back-end desprotegidos, tarjetas de crédito robadas y ataques de devolución de cargo. El software proxy se basa en los proyectos de código abierto one-api y new-api.
Matt Lenhart llevó a cabo una investigación sobre el mercado de reventa de tokens LLM con descuento, que se centra principalmente en China. Los revendedores ofrecen acceso a proxies de LLM, proporcionando importantes descuentos sobre los precios estándar de las API al abusar de pruebas gratuitas, realizar proxy a través de bots de soporte no seguros, así como utilizando tarjetas de crédito robadas o ataques de contracargos. El software de proxy utilizado es de código abierto — principalmente one-api y su fork más activamente desarrollado new-api, ambos productos legítimos de proxy de API que pueden usarse para equilibrar la carga de solicitudes entre un grupo de credenciales. Los compradores buscan tokens baratos, pretenden eludir restricciones geográficas y, en algunos casos, recolectan datos para la destilación de modelos. El autor del artículo señala que la existencia de este mercado lo hace aún más cauteloso al implementar públicamente aplicaciones basadas en LLM por temor a abusos. Insta a los proveedores de LLM a imponer límites más estrictos para las claves de API.
Fuente: Simon Willison —
original