لماذا تحتاج الذكاء الاصطناعي إلى معامل جيني

تقيس المعايير الرئيسية للذكاء الاصطناعي القدرة، لكن لا يقيس أي منها ما إذا كان الذكاء الاصطناعي يفعل ما تقصده. معامل جيني يسد تلك الفجوة. مستوحى من معامل جيني في الاقتصاد، فهو يحدد المسافة بين نية المستخدم وإجراء الذكاء الاصطناعي. هذا مهم بشكل خاص لوكلاء الذكاء الاصطناعي المعاصرين الذين أصبحوا استباقيين بشكل متزايد—أشار سيمون ويليسون إلى أن نظام Fable من Anthropic "استباقي بلا هوادة"، حيث يقوم بأشياء مفاجئة لم يُطلب منه. يمكن أن يكون سلوك جيني ديونيسيوسيًا (نتيجة حرفية لكن خاطئة، مثل شراء مزرعة قهوة بناءً على طلب قهوة) أو جوليميًا (تحقيق النتيجة الصحيحة عبر اختصارات ضارة، مثل اختراق قاعدة بيانات لحجز رحلة طيران). يُبنى المعيار على معيار "الشخص العاقل"، حيث يُقيِّم النظام الذي يجمع بين الأداة الداعمة والنموذج. يتطلب معايير متعددة خاصة بالمجالات (البرمجة، القانون، الطب) تُغري الذكاء الاصطناعي بالاختصارات والتفسيرات الحرفية الخاطئة. يجب أن يقيس التسجيل الحالة الأسوأ، ويأخذ الضرر في الاعتبار، ويضمن أن الذكاء الاصطناعي لا يزال يؤدي المهام (وليس فقط يرفضها). الهدف هو وضع سياسات لسلوك الذكاء الاصطناعي مماثلة لـ mens rea في القانون.