Các tác nhân AI tiêu thụ năng lượng gấp khoảng 600 lần so với các lời nhắc trò chuyện đơn giản

Theo Google, một prompt văn bản Gemini trung bình chỉ sử dụng 0,24 watt-giờ, trong khi CEO OpenAI Sam Altman ước tính một yêu cầu ChatGPT là 0,34 Wh. Nhà khoa học khí hậu Zeke Hausfather cho rằng những con số này phản ánh sai lệch việc sử dụng AI thực tế, vì chúng bỏ qua các mô hình suy luận, xử lý đa phương thức và các hệ thống tác tử. Trong phân tích của mình trên The Climate Brink, ông đã ghi lại tám tuần sử dụng Claude Code của chính mình, nơi lưu trữ các nhật ký cục bộ chi tiết với số token chính xác. 1.138 prompt mà ông gõ đã kích hoạt hơn 14.000 lần gọi mô hình, trung bình mười hai lần cho mỗi prompt, mỗi lần xử lý trung bình 2,9 triệu token, tổng cộng 3,2 tỷ token, với 96% là đọc bộ nhớ cache. Ước tính tốt nhất của ông về tổng năng lượng tiêu thụ là khoảng 170 kWh (với độ không chắc chắn 70-330 kWh), tương đương khoảng 150 Wh cho mỗi prompt, gần gấp 600 lần so với một prompt chat trung bình. Một phiên trung bình tiêu thụ 0,6 kWh, ngày trung bình của ông là 3,0 kWh, và ngày cao nhất là 11 kWh. Nếu tính theo năm, con số này là 1,1 MWh, gây ra khoảng 370 kg CO2 tương đương mỗi năm, nhiều hơn máy sấy quần áo điện (262 kg) và bằng khoảng một nửa chuyến bay khứ hồi từ San Francisco đến New York. Hausfather không kêu gọi kiêng tuyệt đối; ông đề xuất giao các tác vụ đơn giản cho các mô hình nhỏ hơn và quan trọng hơn là sử dụng năng lượng sạch, vì điều này có thể giảm lượng khí thải tới 90%. Ông lưu ý rằng gần ba phần tư công suất phát điện dự kiến cho các trung tâm dữ liệu ở Mỹ dựa vào khí tự nhiên, nhưng ông thấy cơ hội cho các công ty AI đầu tư vào năng lượng sạch và cải thiện lưới điện.