2160 putaran simulasi tanpa tombol berhenti: riset MiroFish, bagian 3
DeepSeek
Anthropic
Google/DeepMind
OpenAI
Bagian akhir dari studi MiroFish mengungkapkan bahwa durasi simulasi ditentukan oleh aturan sederhana: jumlah putaran sama dengan hari dikali 24, konsekuensi dari templat pipeline, bukan model. Sistem menerima kewajiban (seperti 2160 putaran) yang tidak dapat dipenuhi oleh arsitektur memorinya, dan tidak ada tombol berhenti di antarmuka, sehingga memerlukan titik akhir API tersembunyi untuk menghentikan proses.
Artikel ketiga dalam rangkaian studi MiroFish ini meneliti apa yang terjadi ketika input sudah benar. Durasi simulasi ditentukan oleh frasa seperti 'selama 7 hari ke depan' dalam kueri pengguna; sistem tidak pernah meminta konfirmasi. Dalam enam kali percobaan dengan cakrawala waktu, jumlah putaran tepat hari dikali 24 (168, 336, 2160 putaran), terdokumentasi pada empat keluarga model. Inspeksi kode statis mengonfirmasi mekanismenya: generator konfigurasi meminta model bahasa besar untuk mengisi total_simulation_hours (24-168 jam) dan minutes_per_round (30-120, direkomendasikan 60), dan pelari menghitung total_rounds = total_hours * 60 / minutes_per_round. Dengan rekomendasi 60 menit, putaran sama dengan jam, sehingga 90 hari menjadi 2160 putaran. Rentang terdokumentasi 24-168 jam hanyalah rekomendasi dalam perintah; tidak ada kode yang membatasi atau memvalidasi angkanya. Sistem tidak dapat memenuhi kewajibannya sendiri: agen-agen mengakumulasi memori tanpa batas, menyebabkan degradasi dan kesalahan penyedia; dunia 7 agen terdegradasi sekitar putaran 300, dunia 4 agen sekitar putaran 515, sementara dunia 18-19 agen memerlukan penghentian lebih awal. Tidak ada tombol berhenti di antarmuka pengguna; seorang anggota komunitas menemukan bahwa penanganan antarmuka depan ada tetapi tidak terhubung ke tombol apa pun, dan mengajukan permintaan tarik. Peneliti harus menggunakan titik akhir POST yang tidak terdokumentasi /api/simulation/stop untuk menghentikan simulasi 90 hari pada putaran 592, setelah aktivitas yang berarti berhenti. Studi ini mencatat keterbatasan: sebagian besar sel adalah n=1, hanya empat keluarga model yang diuji, dan semua keruntuhan terjadi pada dunia DeepSeek, sehingga independensi dari keluarga model belum terverifikasi.
Sumber: Habr — хаб ML —
asli
