Yapay Zeka Ajanları Basit Sohbet Komutlarından Yaklaşık 600 Kat Daha Fazla Enerji Tüketiyor

Google'a göre, ortalama bir Gemini metin istemi yalnızca 0,24 watt-saat enerji kullanırken, OpenAI CEO'su Sam Altman bir ChatGPT isteğinin 0,34 Wh olduğunu tahmin ediyor. İklim bilimci Zeke Hausfather, bu rakamların gerçek yapay zeka kullanımını yanlış temsil ettiğini, çünkü akıl yürütme modellerini, çok modlu işlemeyi ve ajan sistemlerini göz ardı ettiğini savunuyor. The Climate Brink'teki analizinde, sekiz hafta boyunca kendi Claude Code kullanımını kaydetti; bu kullanım, tam token sayılarını içeren ayrıntılı yerel günlükler saklıyordu. Yazdığı 1.138 istem, 14.000'den fazla model çağrısını tetikledi; her istem başına ortalama on iki çağrı düştü ve her biri ortalama 2,9 milyon token işledi. Toplamda 3,2 milyar token işlendi ve bunların %96'sı önbellek okumasıydı. Toplam enerji tüketimi için en iyi tahmini yaklaşık 170 kWh idi (belirsizlik aralığı 70-330 kWh); bu da istem başına yaklaşık 150 Wh'e denk geliyor ve ortalama bir sohbet isteminin yaklaşık 600 katı. Ortalama bir oturum 0,6 kWh tüketirken, ortalama günü 3,0 kWh ve en yoğun günü 11 kWh oldu. Yıllık ölçekte bu 1,1 MWh'e, yani yılda yaklaşık 370 kg CO2 eşdeğerine neden olur; bu, elektrikli bir çamaşır kurutucusundan (262 kg) daha fazla ve San Francisco'dan New York'a gidiş-dönüş uçuşun yaklaşık yarısı kadardır. Hausfather, kullanımdan kaçınılması gerektiğini savunmuyor; basit görevleri daha küçük modellere devretmeyi ve daha da önemlisi, ayak izini %90 azaltabileceği için temiz enerji kullanmayı öneriyor. Planlanan ABD veri merkezi elektrik üretiminin yaklaşık dörtte üçünün doğal gaza dayandığını belirtiyor ancak yapay zeka şirketlerinin temiz enerjiye ve şebeke iyileştirmelerine yatırım yapması için bir fırsat görüyor.