Binnen de doorverkoopmarkt die token-scalpers en oplichters voedt
Een onderzoek van Matt Lenhart bracht een markt aan het licht voor doorverkoop van kortings-LLM-tokens, die grotendeels vanuit China opereert. Doorverkopers maken misbruik van gratis proefversies, onbeveiligde chatbot-backends, gestolen creditcards en chargeback-aanvallen. De proxysoftware is gebaseerd op de open-sourceprojecten one-api en new-api.
Matt Lenhart heeft onderzoek gedaan naar de markt voor de wederverkoop van LLM-tokens met korting, die voornamelijk in China gebaseerd is. Wederverkopers bieden toegang tot LLM-proxyservers en bieden aanzienlijke kortingen op de normale API-prijzen. Dit bereiken ze door misbruik te maken van gratis proefversies, proxying via onbeveiligde gebruikte bots, en met behulp van gestolen creditcards of chargeback-aanvallen. De gebruikte proxyserversoftware is opensource - voornamelijk one-api en de meer actief ontwikkelde fork new-api, beide legitieme API-proxyproducten die kunnen worden gebruikt voor load balancing over een pool van inloggegevens. Kopers zoeken goedkope tokens, proberen geografische beperkingen te omzeilen en in sommige gevallen verzamelen ze gegevens voor modeldistillatie. De auteur merkt op dat het bestaan van deze markt hem nog voorzichtiger maakt bij het publiekelijk uitrollen van LLM-gebaseerde applicaties uit angst voor misbruik. Hij roept LLM-leveranciers op om strengere limieten voor API-sleutels in te voeren.
Bron: Simon Willison —
origineel