سبير تفتح الوصول إلى مكتبة SIRIN للكشف عن الأخطاء في استجابات الذكاء الاصطناعي

قام فريق العلماء من مركز سبيربنك للذكاء الاصطناعي التطبيقي بنشر مكتبة SIRIN (اختصارًا لـ Semantic Inconsistency Recognition and Inspection Nexus أي شبكة التعرف على التناقضات الدلالية وفحصها) كمصدر مفتوح. تساعد SIRIN في جعل وكلاء الذكاء الاصطناعي والنماذج اللغوية أكثر موثوقية من خلال تحديد الحقائق الملفقة أو تلك غير المدعومة بالبيانات المصدرية. تدمج المكتبة طرقًا مختلفة للتحقق من الاستجابات، مما يسمح للمطورين بمقارنة هذه الطرق ودمجها واختيار الأنسب لمهامهم. يمكنها فحص الاستجابات كاملة أو أجزاء نصية فردية والإشارة إلى الأماكن التي قد يخطئ فيها النموذج. بالإضافة إلى ذلك، يمكن لـ SIRIN إجراء تقييم مسبق لما إذا كان وكيل الذكاء الاصطناعي يمتلك معلومات كافية للإجابة، مما يساعد في منع الأخطاء عن طريق طلب المزيد من البيانات أو رفض الإجابة. تعتمد المكتبة على أبحاث سبيربنك في اكتشاف الهلوسات، وخاصة النماذج الوصفية التي تحسن دقة اكتشاف الأخطاء بنحو 30% باستخدام 250 مثالًا تدريبيًا فقط. وأشار سيرجي ريابوف، المدير الإداري الأول ومدير التحول في مجال الذكاء الاصطناعي في سبيربنك، إلى أن هذا النهج أثبت فعاليته داخليًا وأصبح الآن متاحًا لجميع الشركات لتعزيز تطور السوق. يمكن للمطورين دمج SIRIN في مساعديهم في غضون دقائق، وهي مفيدة للشركات التي تنفذ النماذج اللغوية الكبيرة، وكذلك لمطوري المساعدين الذكيين وأنظمة RAG (اختصارًا لتوليد الاسترجاع المعزز) ووكلاء الذكاء الاصطناعي. المكتبة متاحة على GitVerse وGitHub، بالإضافة إلى نسخة تجريبية على الويب عبر Hugging Face.