Dentro del mercado de reventa que impulsa a revendedores de tokens y estafadores
Una investigación de Matt Lenhart descubrió un mercado de reventa de tokens de LLM con descuento, operando principalmente desde China. Los revendedores explotan pruebas gratuitas, backends de chatbots no seguros, tarjetas de crédito robadas y ataques de contracargo. El software proxy se basa en los proyectos de código abierto one-api y new-api.
Matt Lenhart investigó el mercado de reventa de tokens de LLM con descuento, que se centra principalmente en China. Los revendedores ofrecen acceso a proxies de LLM, proporcionando importantes descuentos sobre los precios habituales de las API, lo que logran abusando de las pruebas gratuitas, utilizando proxies a través de bots de soporte inseguros, y mediante tarjetas de crédito robadas o ataques de chargeback. El software de proxy utilizado es de código abierto, principalmente one-api y su fork más activamente desarrollado new-api, ambos productos legítimos de proxy de API que se pueden usar para equilibrar solicitudes entre un conjunto de credenciales. Los compradores buscan tokens baratos, intentan eludir restricciones geográficas y, en algunos casos, recopilan datos para la destilación de modelos. El autor del artículo señala que la existencia de este mercado lo hace aún más cauteloso a la hora de implementar públicamente aplicaciones basadas en LLM por miedo al abuso. Insta a los proveedores de LLM a mejorar los límites estrictos para las claves de API.
Fuente: Simon Willison —
original