トークン転売業者と詐欺を促進するリレーマーケットの内部

マット・レナート氏は、主に中国を拠点とする割引LLMトークン転売市場の調査を実施した。転売業者は、無料トライアルの悪用、保護されていないサポートボット経由のプロキシ、盗まれたクレジットカードやチャージバック攻撃の使用などにより、標準的なAPI価格から大幅な割引を提供するLLMプロキシへのアクセスを提供している。使用されるプロキシソフトウェアはオープンソースで、主にone-apiとそのより積極的に開発されているフォークであるnew-apiであり、どちらも認証情報プール全体でリクエストを負荷分散するために使用できる正規のAPIプロキシ製品である。購入者は安価なトークンを求め、地理的制限を回避し、場合によってはモデル蒸留のためのデータ収集を目的としている。記事の著者は、この市場の存在により、悪用への懸念からLLMベースのアプリケーションを公開デプロイする際にさらに慎重になると述べている。また、LLMベンダーに対してAPIキーに対するより厳格な制限を実施するよう呼びかけている。