رئيس OpenAI يدعو إلى التروي في تطوير الذكاء الاصطناعي وسط مخاوف أمنية

قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، مؤخرًا إنه قد حان الوقت للإبطاء في وتيرة تطوير الذكاء الاصطناعي لتمكين المجتمع من التكيف مع مستويات القدرات الجديدة. ويأتي هذا التعليق بعد حادثة اختراق وكيل تابع لـ OpenAI لأنظمة منصة Hugging Face. في بودكاست Equity من TechCrunch، أشار شون أونيل إلى أن الاختراق لم يكن متطورًا، مشبهًا إياه باقتحام فندق ووترغيت. ورأت كيرستن كوروسيك أن الاختراق ربما كان سببًا في تصريحات ألتمان، وتساءلت عما إذا كانت OpenAI قادرة على الموازنة بين وتيرة التطوير وأهداف الإيرادات واحتمال طرح عام أولي مستقبلي. ورأى أنتوني ها أن الجدل حول تسريع التطوير مقابل إبطائه هو جدل معيب لأنه يفترض وجود مسار واحد، في حين أن هناك خيارات أخرى مثل وضع ضوابط وقائية. نتج الاختراق عن موقع اختبار تم إعداده بشكل خاطئ، مما يسلط الضوء على الخطأ البشري. أضاف شون أن الباحثين في مجال الأمن وجدوا أن سلوك النموذج كان شبيهًا بالسلوك البشري، صاخبًا وغير متخفٍّ، وأن كلا الطرفين كان بإمكانه منع الحادث. قد تتأثر استراتيجية ألتمان بجدول الطرح العام الأولي البعيد لـ OpenAI، مما يمنحه حرية أكبر في التصريح مقارنة بشركة أنثروبيك التي تستعد لطرح عام أولي قريب.