2160 vòng mô phỏng không có nút dừng: nghiên cứu MiroFish, phần 3
DeepSeek
Anthropic
Google/DeepMind
OpenAI
Phần cuối của nghiên cứu MiroFish cho thấy thời lượng mô phỏng được xác định bởi một quy tắc đơn giản: số vòng bằng số ngày nhân với 24, hệ quả của mẫu đường ống (pipeline template), không phải do các mô hình. Hệ thống chấp nhận các nghĩa vụ (như 2160 vòng) mà kiến trúc bộ nhớ của nó không thể đáp ứng, và không có nút dừng trong giao diện, đòi hỏi phải dùng một điểm cuối API ẩn để dừng các lần chạy.
Bài viết thứ ba trong loạt nghiên cứu về MiroFish xem xét điều gì xảy ra khi đầu vào hoàn toàn chính xác. Độ dài mô phỏng được xác định bởi một cụm từ kiểu như "trong 7 ngày tới" trong câu truy vấn của ngườidùng; hệ thống không bao giờ hỏi xác nhận. Trong sáu lần chạy có thiết lập khung thờigian, số vòng mô phỏng đúng bằng số ngày nhân 24 (168, 336, 2160 vòng), được ghi nhận trên bốn họ mô hình. Việc kiểm tra tĩnh mã nguồn đã xác nhận cơ chế này: bộ tạo cấu hình yêu cầu mô hình ngôn ngữ lớn (large language model – LLM) điền vào tham số total_simulation_hours (24–168 giờ) và minutes_per_round (30–120, khuyến nghị 60), còn bộ chạy tính toán total_rounds = total_hours * 60 / minutes_per_round. Với giá trị khuyến nghị 60 phút, số vòng bằng số giờ, nên 90 ngày trở thành 2160 vòng. Khoảng 24–168 giờ được ghi trong tài liệu chỉ là một khuyến nghị trong câu lệnh (prompt); không có đoạn mã nào giới hạn hay kiểm tra tính hợp lệ của con số này. Hệ thống không thể tự thực hiện nổi chính nghĩa vụ của mình: các tác tử (agent) tích lũy bộ nhớ không giới hạn, dẫn đến suy giảm chất lượng và lỗi từ phía nhà cung cấp; một thế giới 7 tác tử bắt đầu suy giảm vào khoảng vòng 300, một thế giới 4 tác tử vào khoảng vòng 515, trong khi các thế giới 18–19 tác tử buộc phải dừng sớm. Không có nút dừng nào trong giao diện ngườidùng (user interface – UI); một thành viên cộng đồng phát hiện rằng trình xử lý (handler) ở phía giao diện thực sự tồn tại nhưng không được kết nối với bất kỳ nút bấm nào, và đã gửi một pull request. Nhà nghiên cứu phải dùng lệnh POST /api/simulation/stop không được tài liệu hóa để kết thúc lần chạy 90 ngày ở vòng 592, sau khi mọi hoạt động có ý nghĩa đã ngừng hẳn. Nghiên cứu cũng nêu các hạn chế: hầu hết các ô dữ liệu chỉ có n=1 (một mẫu), chỉ có bốn họ mô hình được thử nghiệm, và mọi sự sụp đổ đều xảy ra trên các thế giới dùng DeepSeek, nên tính độc lập với họ mô hình vẫn chưa được kiểm chứng.
Nguồn: Habr — хаб ML —
bản gốc
