ارتفاع استقلالية نماذج الذكاء الاصطناعي يثير مخاوف من خروج البحث والتطوير عن السيطرة

أحدث التطورات في نماذج الذكاء الاصطناعي أدت إلى ترقية ملحوظة في قدراتها الذاتية، مما أثار بدوره مخاوف بشأن نقص السيطرة في عملية البحث والتطوير. يخشى الخبراء أنه مع ازدياد استقلالية أنظمة الذكاء الاصطناعي، قد تعمل بطرق غير متوقعة أو يصعب التحكم فيها. وقد دفع هذا إلى دعوات لتطبيق حوكمة أكثر صرامة وبروتوكولات سلامة لضمان بقاء تقدمات الذكاء الاصطناعي متوافقة مع النوايا البشرية والقيم المجتمعية.