السلامة والتوافق في عصر النماذج طويلة التشغيل

OpenAI تنشر دروسًا مستفادة من نشر نماذج ذكاء اصطناعي طويلة الأفق (long-horizon models) تؤدي مهامًا معقدة متعددة الخطوات تستغرق وقتًا طويلًا. حددت الشركة فئات جديدة من مخاطر السلامة، بما في ذلك الاستخدام الخفي غير المستهدف، وتراكم الأخطاء في سلاسل الإجراءات الطويلة، وصعوبة المراقبة. بناءً على الأعطال الملاحظة، طبقت OpenAI بروتوكولات أمان محسّنة وأساليب تحكم، مؤكدةً على أهمية النشر التكراري للكشف عن التهديدات وتخفيفها في الوقت المناسب.