التحديات والتجارب في استخدام وكلاء الذكاء الاصطناعي: ما تحتاج معرفته
OpenAI
Anthropic
تتناول المقالة مخاطر العمل مع وكلاء الذكاء الاصطناعي بناءً على تجربة مطورين من شركة Megoplan. يشارك المؤلفون ملاحظاتهم بأن جودة أداء الوكيل تعتمد على هيكل قاعدة المعرفة والسياق والصياغة الصحيحة للتعليمات. يتم إيلاء اهتمام خاص للحاجة إلى الإشراف اليدوي ومخاطر استخدام النماذج الأجنبية.
سيرغي كوزلوف، مدير تطوير نظام إدارة علاقات العملاء "Megaplan" وقاعدة المعرفة المزودة بمساعد ذكاء اصطناعي Collabis، يشارك مع إيغور سوخوفيرخوف، رئيس تطوير Collabis، تجربتهما في تطبيق وكلاء الذكاء الاصطناعي. يلاحظان أن جودة عمل الوكيل تعتمد بشكل كبير على مدى تنظيم قاعدة المعرفة: فإذا كانت غير منظمة، ستكون استجابات الذكاء الاصطناعي غير دقيقة. السياق مهم أيضًا، فمجرد كتابة "اجعله رائعًا" غير كافٍ؛ بل يجب غمر الوكيل بعمق في سياق المهمة. النهج الحديث للعمل مع الذكاء الاصطناعي هو هندسة الحلقات، حيث العامل الرئيسي هو كيفية أداء الوكيل للمهمة واستخدام الأدوات. يحذر المؤلفون من أنه إذا سلك الذكاء الاصطناعي الاتجاه الخاطئ، فإنه يضيع الوقت والرموز. ويضربون مثالاً: في مهمة اختبار، بدلاً من الإشارة إلى زر معطل، تعمق الوكيل في الكود وحاول إصلاحه. تتعامل معظم النماذج بشكل جيد مع المهام البسيطة والمحددة جيدًا، لكن المهام المعقدة متعددة الخطوات تتطلب نماذج أكثر تكلفة - فقد تنسى البداية، تمامًا مثل البشر. التحكم اليدوي أمر إلزامي: الوكيل اليوم يشبه المبتدئ، يجب أن يراجع عمله خبير. كما يُذكر خطر حظر الوصول إلى النماذج الأجنبية، لذا يُوصى بتخزين البيانات في قاعدة معرفة شخصية. طورت شركة "Megaplan" خادم "إم سي بي" لنقل البيانات، وهناك أيضًا مشروع شخصي يعتمد على "جي بي تي 5.6" يعمل محليًا.
المصدر: Habr — хаб ИИ —
الأصلي
