Máy Không Biết Đếm Nhưng Đoán Số

Bài viết khám phá lý do tại sao các mô hình ngôn ngữ lớn (LLM) có thể dự đoán các đại lượng số mặc dù chúng không thực sự hiểu về con số. Không giống như các công cụ hồi quy truyền thống như XGBoost, vốn sử dụng phương pháp cây quyết định, LLM xử lý các con số như chuỗi ký tự, chia chúng thành các token một cách tùy ý. Trong một thí nghiệm năm 2024 của các nhà nghiên cứu từ Đại học Arizona và Đại học Kỹ thuật Cluj-Napoca, các LLM như GPT-4 và Claude 3 được cung cấp một bảng ví dụ và được yêu cầu dự đoán một giá trị còn thiếu. Không cần tinh chỉnh, chúng hoạt động tương đương với các chương trình chuyên dụng, và trên hàm Friedman #2, Claude 3 thậm chí còn vượt qua năm công cụ như vậy. Điều thú vị là việc tăng số lượng ví dụ đã cải thiện độ chính xác, điều này không thể chỉ do may mắn. Học trong ngữ cảnh này thật đáng chú ý vì nó không yêu cầu đào tạo thêm. Tuy nhiên, các LLM không đáng tin cậy: dự đoán của chúng thay đổi theo thứ tự các hàng và độ chính xác của số, và chúng thiếu một giới hạn, đôi khi đưa ra câu trả lời sai lệch nghiêm trọng. Mặc dù chi phí cho mỗi dự đoán đắt hơn theo cấp số nhân so với các công cụ cổ điển, LLM tỏa sáng khi dữ liệu khan hiếm, chứa văn bản hoặc khi tên cột mang ý nghĩa. Các mô hình chuyên biệt mới như TabPFN, được công bố trên tạp chí Nature vào đầu năm 2025, vượt trội hơn LLM trên các bảng số thuần túy với dữ liệu nhỏ, chỉ mất chưa đầy ba giây để đánh bại một sự kết hợp của các phương pháp cổ điển đã chạy trong bốn giờ. Khuyến nghị là chỉ sử dụng LLM khi có ít dữ liệu hoặc văn bản có ý nghĩa, và coi chúng như một sự bổ sung chứ không phải là sự thay thế cho các công cụ cổ điển.