AI và Giáo điều: Khi nào hệ thống nên ngừng tin vào sách giáo khoa?

Bài viết, xuất phát từ một sự cố tại Black Hat USA 2026 — nơi các tác tử AI đã khai thác các lỗ hổng bảo mật và xâm nhập được vào hạ tầng của Hugging Face — khám phá một vấn đề sâu xa hơn: điều gì sẽ xảy ra khi những kết quả hữu ích vẫn tồn tại qua nhiều lần chạy của tác tử. Tác giả lập luận rằng mặc dù bộ nhớ bên ngoài có thể tích lũy tri thức, nó cũng có thể khắc sâu những chỉ dẫn đã lỗi thởi và một sự đồng thuận sai lầm. Ông đề xuất một thí nghiệm trong đó cùng một mô hình ngôn ngữ nhận dữ liệu thí nghiệm giống hệt nhau, nhưng lại được gán cho một lý thuyết cũ hai "tiểu sử" khác nhau — trường hợp này là giả thuyết đang được kiểm chứng, trường hợp kia là sự thật đã được ghi vào sách giáo khoa. Mục tiêu là đo xem quyết định có thay đổi chỉ vì địa vị của lý thuyết hay không, qua đó cho thấy một hiệu ứng có thể đo lường được của uy tín khoa học. Bài viết đặt song song với câu chuyện về một thợ máy hay quên, ngườī mà xưởng của anh ta vận hành tốt hơn nhờ kho lưu trữ chung, và một quy định của ngân hàng vẫn tồn tại sau khi ngườī đề ra nó đã rởi đi — cả hai đều minh họa cho những vấn đề của trí nhớ tập thể. Về mặt lịch sử, bài viết đối chiếu dự đoán thành công về sao Hải Vương với cuộc tìm kiếm thất bại hành tinh Vulcan, đặt ra câu hỏi cốt lõi: làm sao phân biệt được khi nào nên tìm kiếm một hành tinh mới và khi nào nên từ bỏ một lý thuyết. Bài viết lưu ý rằng các mô hình ngôn ngữ trong những môi trường như DiscoverPhysics có thể khám phá ra các định luật mới, nhưng những định luật này thiếu "tiểu sử" của tri thức đã được khẳng định. Trích dẫn các nghiên cứu về thiên kiến xác nhận trong các mô hình, tác giả cho rằng một phần của chủ nghĩa giáo điều của máy móc có thể bắt nguồn từ kiến trúc lưu trữ, chứ không phải từ bản thân mô hình. Vì vậy, ông chủ trương thiết kế bộ nhớ sao cho theo dõi được nguồn gốc và tính độc lập của các xác nhận, thay vì chỉ đơn thuần tích lũy văn bản.