Im Relay-Markt, der Token-Wiederverkäufer und Betrug befeuert
Eine Untersuchung von Matt Lenhart enthüllt einen Markt für rabattierte LLM-Token-Wiederverkäufe, der hauptsächlich in China operiert. Wiederverkäufer nutzen kostenlose Testversionen, ungeschützte Backend-Bots, gestohlene Kreditkarten und Chargeback-Angriffe. Die Proxy-Software basiert auf den Open-Source-Projekten one-api und new-api.
Matt Lenhart führte eine Untersuchung des Discount-Marktes für LLM-Token-Reselling durch, der hauptsächlich in China beheimatet ist. Wiederverkäufer bieten Zugang zu LLM-Proxys an und gewähren erhebliche Rabatte auf die Standard-API-Preise, indem sie kostenlose Testversionen missbrauchen, Proxy über ungesicherte unterstützte Bots durchführen sowie gestohlene Kreditkarten oder Chargeback-Angriffe nutzen. Die verwendete Proxy-Software ist Open Source – hauptsächlich one-api und dessen aktivere Weiterentwicklung new-api, beides legitime API-Proxy-Produkte, die zum Lastenausgleich von Anfragen über einen Pool von Anmeldedaten genutzt werden können. Käufer suchen nach billigen Token, möchten geografische Beschränkungen umgehen und sammeln in einigen Fällen Daten für die Modelldestillation. Der Autor des Artikels stellt fest, dass die Existenz dieses Marktes ihn noch vorsichtiger macht, wenn es um die öffentliche Bereitstellung von LLM-basierten Anwendungen geht, aus Angst vor Missbrauch. Er fordert LLM-Anbieter auf, strengere Grenzen für API-Schlüssel durchzusetzen.
Quelle: Simon Willison —
Original