Mô hình là hàng hóa. Dây cương là lợi thế.
Anthropic
Chroma
Bài viết lập luận rằng các mô hình AI đang trở thành hàng hóa có thể thay thế lẫn nhau, và lợi thế cạnh tranh thực sự nằm ở dây cương — các công cụ xác định, ngữ cảnh và hạ tầng được xây dựng xung quanh mô hình. Kỹ thuật prompt đang được thay thế bằng kỹ thuật ngữ cảnh, và các công cụ dòng lệnh xác định rất quan trọng cho độ tin cậy, đặc biệt trong các lĩnh vực rủi ro cao như tài chính và y học.
Bài viết, dựa trên bản dịch bài viết của Eyad Khrais về kỹ thuật khai thác mô hình AI, cho rằng các mô hình AI là hàng hóa được truy cập qua API, trong khi phần khai thác — các công cụ và bối cảnh có tính xác định — mới là nơi tạo ra giá trị. Tác giả chia sẻ kinh nghiệm cá nhân từ một dự án tập trung vào tài chính: kỹ thuật prompt đang suy yếu, thay vào đó là kỹ thuật bối cảnh (do Tobi Lütke và Andrej Karpathy đặt ra vào mùa hè 2025). Một prompt mỏng kết hợp với bối cảnh dày, được chọn lọc kỹ càng và các công cụ CLI có tính xác định mang lại kết quả có thể đoán trước. Bài viết cảnh báo về "sự suy thoái bối cảnh" (chất lượng giảm dần khi đầu vào dài, như các thử nghiệm của Chroma cho thấy) và nhấn mạnh rằng mã xác định (ví dụ: lệnh CLI) ngăn ngừa ảo giác và đảm bảo độ chính xác, đặc biệt cho các tác vụ quan trọng. Phần khai thác chiếm khoảng một phần ba độ phức tạp của dự án nhưng mang lại lợi ích bằng cách cải thiện độ tin cậy. Tác giả đưa ra các quy tắc để tạo công cụ hiệu quả (hẹp, xác định, dễ hiểu đối với mô hình, được nhóm lại, có xác thực) và khuyên rằng các tác vụ có thể tái sử dụng nên được chuyển thành lệnh CLI. Mặc dù thừa nhận "Bài học Cay đắng" rằng các cấu trúc thủ công có thể bị xói mòn bởi các mô hình mạnh hơn, tác giả lập luận rằng sự phối hợp, trạng thái, khôi phục lỗi và quyền truy cập sẽ vẫn là các chức năng khai thác thiết yếu. Ranh giới: mô hình xử lý ngôn ngữ, phán đoán và lập kế hoạch; phần khai thác xử lý đếm, quy tắc, trạng thái và hành động bên ngoài. Cuối cùng, vai trò "kỹ sư prompt" đang biến mất, thay thế bởi những người xây dựng hệ thống khai thác, bộ nhớ và bối cảnh cụ thể cho từng dự án.
Nguồn: Habr — хаб ИИ —
bản gốc
