كيف نمنع انحياز الملقنين والهلوسة لدى علماء النفس من الذكاء الاصطناعي: تحليل هندسي لضمانات السلامة
تتناول المقالة لماذا تُعتبر نماذج اللغة العامة خطيرة في أدوار الصحة النفسية بسبب انحياز الملقنين والهلوسة والعمى تجاه الأزمات. تقوم بتفصيل ضمانات السلامة - مثل التنبيهات والبروتوكولات الخاصة بالأزمات والمقاييس المُتحقق منها - وتسلط الضوء على بنية متعددة الوكلاء (مثل Vera) حيث يقوم وكيل ذكاء اصطناعي ثانٍ ومراجع أكاديمي بفحص كل استجابة. المفاضلة هي التكلفة العالية وزمن الاستجابة الطويل للمراجعة على مستوى المحتوى، ويسأل الكاتب أين يجب أن يكون التوازن بين السلامة والتكلفة.
Character.AI
Habr — хаб ИИ29.07 · 16:01