لماذا تستهلك الشبكات العصبية الرموز: ماذا يحدث في المحادثات الطويلة وكيفية تقليل التكاليف

يتناول المقال أسباب استهلاك نماذج الذكاء الاصطناعي كمّاً هائلاً من الرموز (Tokens) في المحادثات الطويلة، وكيفية خفض التكاليف الناتجة عن ذلك. يستشهد الكاتب بقصص من موقع Reddit: أحد المستخدمين استهلك 1.156 مليار رمز إدخال أثناء استخدامه نموذج Claude، بينما نسي مستخدم آخر إيقاف وكيل Claude Code الذي كان يفحص طلبات السحب (Pull Requests) كل 30 دقيقة لمدة 26 ساعة متواصلة، أي 46 عملية تشغيل، بتكلفة بلغت نحو 6000 دولار. السبب التقني وراء هذه التكاليف المرتفعة هو أن كل طلب جديد يتضمن كامل السياق المتراكم من المحادثة، والذي قد يصل إلى 800 ألف رمز. وتحذّر شركة Anthropic في وثائقها الرسمية من أن التكاليف ترتفع مع زيادة حجم السياق، وتوصي بمسح السجل التاريخي أو استخدام تقنية الضغط (Compaction) لتقليصه. كما تُظهر أبحاث شركة Chroma في دراستها المعنونة "تعفّن السياق" (Context Rot)، إضافة إلى دراسة أخرى صدرت عام 2026 بعنوان "تشخيص وعلاج تعفّن السياق" (Diagnosing and Mitigating Context Rot)، أن أداء النماذج يتراجع مع طول المدخلات، حتى قبل الوصول إلى الحد الأقصى لنافذة السياق، خصوصاً عند وجود معلومات مشتتة أو غير ذات صلة. ومن الجدير بالذكر أن تقنية التخزين المؤقت للمطالبات (Prompt Caching) لا تخفّض التكاليف إلا في حالة تكرار المقدّمات الثابتة من النص، ولا تُعالج مشكلة تراكم السياق غير الضروري أصلاً. أما بالنسبة لوكلاء الذكاء الاصطناعي (AI Agents)، فإن التكاليف تكون غالباً مخفية عن المستخدم، إذ تنفّذ هذه الوكلاء عدداً كبيراً من عمليات الأدوات بشكل مستقل ودون تدخل مباشر. يقدّم المقال عدة نصائح عملية لتقليل هذه التكاليف، منها: تقسيم المهام المستقلة عن بعضها البعض، استخدام أوامر /clear و/compact في Claude Code، تزويد النموذج بالأجزاء ذات الصلة فقط من المستندات بدلاً من إرسالها كاملة، تخزين التعليمات الثابتة مؤقتاً، واختيار الفئة المناسبة من النماذج حسب المهمة، مثل استخدام Sonnet لمهام البرمجة، وOpus للمهام التي تتطلب استدلالاً معقداً، وHaiku للمهام البسيطة التي تُسند إلى وكلاء فرعيين. كما يروّج الكاتب لمنصة LLM Studio التابعة لشركة SYNTX.AI، التي توفر أكثر من 100 نموذج ذكاء اصطناعي مختلف، مع إمكانية التبديل بين النماذج داخل المحادثة الواحدة، مشيراً إلى توفر كود خصم بعنوان CTRLAI يمنح خصماً بنسبة 20%. ويخلص المقال إلى أن هندسة المطالبات (Prompt Engineering) لم تعد تقتصر على صياغة الطلبات بذكاء فحسب، بل باتت تستلزم أيضاً التخلص من المعلومات غير الضرورية والحفاظ على سياق نظيف ومركّز.