Kệ trống hay chìa khóa bị mất? Khả năng thu hồi là nút thắt cho tính thực tế tham số
Google Research
OpenAI
Google/DeepMind
Nghiên cứu của Google giới thiệu hồ sơ kiến thức (knowledge profiling), một khuôn khổ tách biệt việc mã hóa và thu hồi trong mô hình ngôn ngữ lớn. Sử dụng WikiProfile, một bộ tiêu chuẩn gồm 2.150 sự kiện Wikipedia, họ phát hiện các mô hình tiên tiến như Gemini và GPT-5 mã hóa gần như mọi sự kiện nhưng gặp khó khăn trong việc thu hồi nhiều sự kiện, cho thấy nút thắt đã chuyển từ thu thập kiến thức sang sử dụng kiến thức.
Các nhà khoa học của Google Research là Nitay Calderon và Gal Yona đề xuất một khung hành vi gọi là lược đồ tri thức (knowledge profiling) để phân biệt liệu các lỗi thực tế trong các mô hình ngôn ngữ lớn (LLM) bắt nguồn từ việc thiếu kiến thức (lỗi mã hóa) hay kiến thức không thể truy cập (lỗi truy hồi). Họ giới thiệu WikiProfile, một bộ chuẩn gồm 2.150 dữ kiện lấy từ Wikipedia, mỗi dữ kiện đi kèm với các câu hỏi kiểm tra khả năng mã hóa, truy hồi và nhận diện. Khi đánh giá 13 mô hình LLM có và không có suy luận, họ chỉ ra rằng các mô hình tiên tiến như Gemini-3-Pro và GPT-5 mã hóa 95–98% dữ kiện nhưng thất bại trong việc truy hồi trực tiếp 26–34%, thậm chí khi có suy luận vẫn thất bại 11–12%. Việc mở rộng quy mô trong dòng Gemma 3 giảm lỗi mã hóa nhưng lỗi truy hồi vẫn tồn tại, cho thấy truy hồi là điểm nghẽn. Việc truy hồi bị ảnh hưởng bởi bối cảnh huấn luyện, các dữ kiện có đuôi dài (long-tail) được mã hóa nhưng khó truy hồi, và lời nguyền đảo ngược (reversal curse) được định nghĩa lại như một vấn đề truy hồi, vì khả năng nhận diện trong các bài tập trắc nghiệm không bị suy giảm. Suy luận cải thiện khả năng truy hồi nhiều nhất đối với các dữ kiện hiếm và đảo ngược, phục hồi 40–65% các dữ kiện đã được mã hóa nhưng không biết trực tiếp, hoạt động như một cơ chế hỗ trợ truy hồi chứ không phải thuần túy lý luận.
Nguồn: Google Research —
bản gốc
