Agen AI Mengonsumsi Energi Sekitar 600 Kali Lebih Banyak daripada Pertanyaan Chat Sederhana

Menurut Google, prompt teks Gemini rata-rata hanya menggunakan 0,24 watt-jam, sementara CEO OpenAI Sam Altman memperkirakan permintaan ChatGPT sebesar 0,34 Wh. Ilmuwan iklim Zeke Hausfather berpendapat bahwa angka-angka ini tidak menggambarkan penggunaan AI yang sebenarnya, karena mengabaikan model penalaran, pemrosesan multimodal, dan sistem agen. Dalam analisisnya di The Climate Brink, ia mencatat penggunaan Claude Code selama delapan minggu, yang menyimpan log lokal terperinci dengan jumlah token yang tepat. 1.138 prompt yang ia ketik memicu lebih dari 14.000 panggilan model, rata-rata dua belas per prompt, masing-masing memproses rata-rata 2,9 juta token, total 3,2 miliar token, dengan 96% berupa pembacaan cache. Perkiraan terbaiknya untuk total konsumsi energi adalah sekitar 170 kWh (dengan ketidakpastian 70-330 kWh), yang berarti sekitar 150 Wh per prompt, sekitar 600 kali lipat dari prompt chat rata-rata. Sesi rata-rata mengonsumsi 0,6 kWh, hari rata-rata 3,0 kWh, dan hari paling intensif 11 kWh. Jika diskalakan tahunan, ini mencapai 1,1 MWh, menyebabkan sekitar 370 kg setara CO2 per tahun, lebih banyak daripada pengering pakaian listrik (262 kg) dan sekitar setengah dari penerbangan pulang-pergi dari San Francisco ke New York. Hausfather tidak menganjurkan untuk berhenti menggunakan; ia menyarankan untuk mendelegasikan tugas sederhana ke model yang lebih kecil dan, yang lebih penting, menggunakan energi bersih, karena hal itu dapat mengurangi jejak karbon hingga 90%. Ia mencatat bahwa hampir tiga perempat dari kapasitas pembangkit listrik pusat data AS yang direncanakan menggunakan gas alam, tetapi melihat peluang bagi perusahaan AI untuk berinvestasi dalam energi bersih dan perbaikan jaringan listrik.