Au cœur du marché des revendeurs de jetons et de la fraude
Une enquête de Matt Lenhart révèle un marché de revente de jetons de modèles de langage à prix réduit, opérant principalement en Chine. Les revendeurs utilisent des essais gratuits, des robots back-end non protégés, des cartes de crédit volées et des attaques de rétrofacturation. Le logiciel proxy repose sur les projets open source one-api et new-api.
Matt Lenhart a mené une enquête sur le marché de la revente de tokens de modèles de langage (LLM) à prix réduits, principalement basé en Chine. Les revendeurs fournissent un accès à des proxys LLM, offrant des réductions importantes par rapport aux prix standard des API en abusant des essais gratuits, en passant par des robots de support non sécurisés, ou en utilisant des cartes de crédit volées et des attaques de rétrofacturation. Le logiciel proxy utilisé est open source — principalement one-api et son fork plus activement développé new-api, tous deux des produits légitimes de proxy API pouvant être utilisés pour équilibrer la charge des requêtes sur un ensemble d'identifiants. Les acheteurs recherchent des tokens bon marché, cherchent à contourner les restrictions géographiques, et dans certains cas collectent des données pour la distillation de modèles. L'auteur de l'article note que l'existence de ce marché le rend encore plus prudent lorsqu'il déploie publiquement des applications basées sur des LLM, par crainte d'abus. Il appelle les fournisseurs de LLM à imposer des limites plus strictes pour les clés API.
Source: Simon Willison —
original