ميسترال تطلق نموذجًا بتقنية جديدة لتصنيفات السلامة

قدمت Mistral AI نموذج Shieldstral، وهو نموذج سلامة مصمم لتبسيط عملية الإشراف على المحتوى الذي يولده الذكاء الاصطناعي. يستخدم هذا النموذج نهجًا مرنًا قائمًا على الأسئلة والأجوبة بدلاً من الفئات الثابتة: حيث يقوم المشغلون بصياغة سياسات الإشراف الخاصة بهم كأسئلة نعم/لا باللغة الطبيعية، مثل "هل يدعو هذا المحتوى إلى العنف الفعلي؟"، ويعيد Shieldstral درجة أمان بناءً عليها يمكن الموافقة على المطالبة أو استجابة الذكاء الاصطناعي أو رفضها. وفقًا لـ Mistral، لهذه الطريقة ميزتان: أولاً، يمكن للمشغلين بسهولة تعديل الأسئلة المطروحة حول المحتوى في أي وقت؛ ثانيًا، يمكنها تقييم سياق المحتوى بشكل أفضل. على سبيل المثال، ما قد يكون اقتباسات أصلية ضرورية من خطابات معاصرة في محاضرة مدرسية عن معسكرات الاعتقال سيكون بالغ الأهمية كمحتوى لمنشور مدونة شخصية. يجادل مؤلفو الورقة البحثية المرتبطة بأن نماذج الحماية السابقة ذات التصنيفات الثابتة لا يمكنها التقاط هذه الاختلافات السياقية بشكل كافٍ لأن الإباحية غالبًا ما تكون مرتبطة بالفئات. يعامل الإدخال الإشراف كمهمة إجابة على أسئلة ثنائية: يتلقى النموذج تعليمات النظام والسياق وسؤالًا بنعم/لا، ويخرج أثناء الاستدلال فقط قيمتي نعم ولا، ويتم تطبيعهما عبر softmax إلى درجة أمان مستمرة. تدعي Mistral أن Shieldstral يحقق نفس الأداء الذي تحققه نماذج أكبر بسبع مرات ولكنه يعمل على وحدة معالجة رسوميات Nvidia بسعة 16 جيجابايت. تقنيًا، يعتمد Shieldstral على Ministral-3B-Base-2512، وهو نموذج لغة سببي من عائلة Mistral الخاصة، والذي تم توسيعه مؤخرًا مع Leanstral 1.5، المُحسَّن للإثباتات الرياضية والتحقق الرسمي. لمعالجة الصور، يُستخدم Pixtral-Vision-Encoder. النموذج الذي يحتوي على 3 مليارات معامل متاح للتنزيل بأوزان مفتوحة بموجب رخصة Apache 2.0 على Hugging Face.