داخل سوق الترحيل الذي يغذي إعادة بيع الرموز والاحتيال

أجرى مات لينهارت (Matt Lenhart) تحقيقًا في سوق إعادة بيع رموز نماذج اللغة الكبيرة (LLM، اختصار لـ Large Language Model) المخفّضة، والذي يتمركز أساسًا في الصين. يوفر معيدو البيع إمكانية الوصول إلى وكلاء (بروكسي) لنماذج اللغة الكبيرة، تقدّم خصومات كبيرة مقارنةً بأسعار واجهات برمجة التطبيقات (API، اختصار لـ Application Programming Interface) القياسية، وذلك عبر استغلال التجارب المجانية، والتمرير عبر بوتات مدعومة غير مؤمَّنة بشكل كافٍ، إضافة إلى استخدام بطاقات ائتمان مسروقة أو هجمات استرداد المدفوعات (chargeback). أما برمجية الوكيل (البروكسي) المستخدمة فهي مفتوحة المصدر - وتتمثل أساسًا في one-api ونسختها المتفرّعة الأكثر نشاطًا في التطوير new-api، وكلاهما منتجان مشروعان لتوكيل واجهات برمجة التطبيقات يمكن استخدامهما لموازنة الأحمال بين مجموعة من بيانات الاعتماد. يبحث المشترون عن رموز رخيصة، ويسعون إلى تجاوز القيود الجغرافية، وفي بعض الحالات يجمعون بيانات لأغراض تقطير النماذج (model distillation). ويشير كاتب المقال إلى أن وجود هذا السوق يجعله أكثر حذرًا عند نشر تطبيقات قائمة على نماذج اللغة الكبيرة للجمهور، خوفًا من إساءة الاستخدام. ويدعو مزوّدي نماذج اللغة الكبيرة إلى فرض قيود أكثر صرامة على مفاتيح واجهة برمجة التطبيقات.