صدمة الفاتورة تدفع المدراء التنفيذيين لإعادة النظر في مسألة الذكاء الاصطناعي برمتها

كشف استطلاع أجرته شركة KPMG على أكثر من 2000 مدير تنفيذي كبير في 20 دولة أن 29% منهم يجدون صعوبة في فهم تكاليف التشغيل عند توسيع نطاق نشر الذكاء الاصطناعي في مؤسساتهم، وأن ما يقرب من النصف يعيدون جدولة عمليات النشر عندما تتجاوز التكاليف القيمة المتوقعة. انتقل بائعو الخدمات مثل Anthropic وOpenAI وGitHub من الاشتراكات ذات الرسوم الثابتة إلى الفوترة المستندة إلى الاستخدام لكل رمز (token)، مما تسبب في صدمة الفواتير. أشار بحث أجرته مؤسسة Gartner إلى أن تكاليف البرمجة المدعومة بالذكاء الاصطناعي لكل مطور قد تتجاوز متوسط الراتب العالمي بحلول عام 2028، خاصة في المناطق منخفضة الأجور. قام أحد مهندسي Netflix بإنشاء أداة مفتوحة المصدر تعمل على تقليص المدخلات الزائدة عن الحاجة (مثل مخططات قواعد البيانات والسجلات) التي تُرسل إلى نماذج اللغات الكبيرة، مما يوفر للمستخدمين مئات الآلاف من الدولارات في تكاليف الرموز. تستخدم الأداة ما يُسمى بـ 'squashers' لإزالة الإسهاب غير الضروري قبل الإرسال.