Kỷ nguyên Tokenpocalypse đã đến: Các công ty gấp rút cắt giảm chi tiêu AI

Một đoạn ghi âm bị rò rỉ từ một cuộc họp của Accenture, được 404 Media đưa tin, cho thấy chính những người không làm kỹ thuật (non-engineers), chứ không phải các kỹ sư, mới là nhóm tiêu tốn nhiều token nhất trong việc sử dụng AI. Justice Kwak, trưởng bộ phận chiến lược AI tác nhân (agentic AI) của Accenture, cho biết dữ liệu nội bộ cho thấy những người không làm kỹ thuật thường có những thao tác ngốn rất nhiều token, chẳng hạn như chuyển đổi file PDF thành hình ảnh rồi lại chuyển tiếp thành file markdown. Stuart Henderson, trưởng nhóm khách hàng của Accenture, đã đùa về thói quen này, gọi đó là một trong những “thủ phạm ngốn token” lớn nhất, và Kwak xác nhận rằng dữ liệu nội bộ của Accenture ủng hộ nhận định đó. Giai thoại nhỏ này phản ánh nỗ lực rộng hơn của các doanh nghiệp nhằm cắt giảm chi phí liên quan đến AI, trong bối cảnh chi phí token đang trở thành một mối lo ngại đáng kể.