2160 جولة محاكاة دون زر إيقاف: بحث MiroFish، الجزء 3
DeepSeek
Anthropic
Google/DeepMind
OpenAI
يكشف الجزء الأخير من دراسة MiroFish أن مدة المحاكاة تحددها قاعدة بسيطة: عدد الجولات يساوي الأيام مضروبة في 24، وهي نتيجة لقالب خط أنابيب المعالجة، وليست من النماذج. النظام يقبل التزامات (مثل 2160 جولة) لا تستطيع بنية ذاكرته الوفاء بها، ولا يوجد زر إيقاف في الواجهة، مما يتطلب نقطة نهاية API مخفية لإيقاف التشغيل.
سلسلة دراسات MiroFish، المقال الثالث، تفحص ما يحدث عندما يكون الإدخال صحيحًا. يتم تحديد مدة المحاكاة بعبارة مثل "على مدى الأيام السبعة القادمة" في استعلام المستخدم؛ ولا يطلب النظام تأكيدًا أبدًا. عبر ست عمليات تشغيل بأفق زمني، كان عدد الجولات يساوي الأيام مضروبة في 24 (168، 336، 2160 جولة)، موثقًا في أربع عائلات نماذج. أكد فحص الكود الثابت الآلية: يوجه مولد الإعدادات نموذج اللغة الضخم لملء total_simulation_hours (24-168 ساعة) و minutes_per_round (30-120، الموصى بها 60)، ويحسب المُشغِّل total_rounds = total_hours * 60 / minutes_per_round. مع الدقائق الموصى بها 60، تساوي الجولات الساعات، لذا فإن 90 يومًا تصبح 2160 جولة. النطاق الموثق 24-168 ساعة هو مجرد توصية في المطالبة؛ لا يوجد كود يقيد أو يتحقق من الرقم. لا يمكن للنظام الوفاء بالتزاماته: تتراكم الذاكرة لدى الوكلاء دون حد، مما يؤدي إلى تدهور وأخطاء من المزود؛ عالم من 7 وكلاء تدهور حوالي الجولة 300، وعالم من 4 وكلاء حوالي الجولة 515، بينما عوالم 18-19 وكيلًا تطلبت إيقافًا مبكرًا. لا يوجد زر إيقاف في واجهة المستخدم؛ اكتشف أحد أعضاء المجتمع أن معالج الواجهة الأمامية موجود لكنه غير مربوط بأي زر، وقدم طلب سحب. اضطر الباحث إلى استخدام نقطة نهاية غير موثقة POST /api/simulation/stop لإنهاء تشغيل 90 يومًا عند الجولة 592، بعد توقف النشاط الهادف. تذكر الدراسة القيود: معظم الخلايا n=1، وتم اختبار أربع عائلات نماذج فقط، وجميع الانهيارات حدثت على عوالم DeepSeek، لذا فإن الاستقلال عن عائلة النموذج لا يزال غير مثبت.
المصدر: Habr — хаб ML —
الأصلي
