Tokenpocalypse Telah Tiba: Perusahaan Bergegas Memangkas Belanja AI
Pertemuan Accenture yang bocor mengungkapkan bahwa non-enginer mendorong konsumsi token, dengan konversi PDF-ke-markdown menjadi biaya utama. Perusahaan-perusahaan bergegas mengurangi belanja AI seiring melonjaknya biaya token.
Rekaman audio yang bocor dari sebuah pertemuan Accenture, yang dilaporkan oleh 404 Media, menyoroti bahwa non-engineering, bukan para insinyur, yang mendorong konsumsi token dalam penggunaan AI. Pemimpin strategi AI agenik Accenture, Justice Kwak, mencatat bahwa data internal menunjukkan non-engineering terlibat dalam perilaku yang menghabiskan banyak token, seperti mengonversi PDF menjadi gambar dan kemudian menjadi file markdown. Stuart Henderson, pemimpin grup klien Accenture, bercanda tentang praktik ini, menyebutnya sebagai salah satu penyedot token terbesar, yang kemudian dikonfirmasi oleh Kwak bahwa data Accenture sendiri mendukung hal ini. Anekdot ini menggarisbawahi upaya yang lebih luas oleh perusahaan untuk mengurangi pengeluaran terkait AI karena biaya token menjadi perhatian.
Sumber: Simon Willison —
asli