chargeback. Используемое программное обеспечение для прокси является open-source — в основном one-api и его более активно развиваемый форк new-api, оба легитимных API-прокси продукта, которые можно использовать для балансировки запросов между пулом учётных данных. Покупатели ищут дешёвые токены, стремятся обойти географические ограничения и в некоторых случаях собирают данные для дистилляции моделей. Автор статьи отмечает, что существование этого рынка делает его ещё более осторожным при публичном развёртывании приложений на основе LLM из-за страха злоупотреблений. Он призывает LLM-вендоров улучшить строгие лимиты для ключей API.