揭秘支撑令牌转售与欺诈的代理市场

Matt Lenhart对主要位于中国的折扣LLM令牌转售市场进行了调查。转售商通过滥用免费试用、通过未受防护的受支持机器人代理，以及使用被盗信用卡或拒付攻击等方式，以标准API价格的大幅折扣提供LLM代理访问。所使用的代理软件是开源的——主要是one-api及其更活跃维护的分支new-api，这两个都是合法的API代理产品，可用于在一组凭证之间进行负载均衡请求。买家寻求廉价令牌，旨在绕过地理限制，并在某些情况下收集数据用于模型蒸馏。文章作者指出，这一市场的存在使他在公开部署基于LLM的应用时更加谨慎，因为担心被滥用。他呼吁LLM供应商对API密钥执行更严格的限制。