Các mô hình lớn quay lại cuộc đua tham số: 2 nghìn tỷ trở thành tiêu chuẩn, 3 nghìn tỷ có phải là bước tiếp theo?

Bài viết đề cập đến xu hướng tập trung trở lại vào số lượng tham số như một chỉ số cạnh tranh then chốt trong quá trình phát triển các mô hình ngôn ngữ lớn (large language model - LLM). Các xu hướng trong ngành cho thấy những mô hình có 2 nghìn tỷ tham số sẽ sớm trở nên phổ biến, và cột mốc tiếp theo được kỳ vọng là 3 nghìn tỷ tham số. Cuộc đua này thúc đẩy những bước tiến đáng kể về năng lực trí tuệ nhân tạo (AI), nhưng đồng thời cũng làm dấy lên lo ngại về chi phí tính toán và mức tiêu thụ năng lượng. Bài viết nhấn mạnh tầm quan trọng của quy mô trong việc đạt được hiệu suất vượt trội, đồng thời cũng gợi mở về những giới hạn tiềm ẩn cũng như nhu cầu cải thiện hiệu quả trong tương lai.