Di Balik Pasar Relay yang Mendorong Penjual Kembali Token dan Penipuan
Investigasi oleh Matt Lenhart mengungkap pasar untuk penjualan kembali token LLM diskon, yang sebagian besar beroperasi di China. Penjual kembali menggunakan uji coba gratis, bot back-end yang tidak terlindungi, kartu kredit curian, dan serangan chargeback. Perangkat lunak proxy didasarkan pada proyek sumber terbuka one-api dan new-api.
Matt Lenhart melakukan penyelidikan terhadap pasar jual kembali token LLM diskon, yang sebagian besar berbasis di China. Para penjual kembali menyediakan akses ke proxy LLM, menawarkan diskon signifikan dari harga API standar dengan menyalahgunakan uji coba gratis, memproksi melalui bot pendukung yang tidak aman, serta menggunakan kartu kredit curian atau serangan chargeback. Perangkat lunak proxy yang digunakan bersifat sumber terbuka — terutama one-api dan fork-nya yang lebih aktif dikembangkan, new-api, keduanya merupakan produk proxy API yang sah dan dapat digunakan untuk menyeimbangkan beban permintaan di sekumpulan kredensial. Pembeli mencari token murah, bertujuan untuk menghindari pembatasan geografis, dan dalam beberapa kasus mengumpulkan data untuk distilasi model. Penulis artikel mencatat bahwa keberadaan pasar ini membuatnya semakin berhati-hati saat menerapkan aplikasi berbasis LLM secara publik karena takut akan penyalahgunaan. Ia menyerukan kepada vendor LLM untuk memberlakukan batasan yang lebih ketat untuk kunci API.
Sumber: Simon Willison —
asli