Kecerdasan Menjadi Gratis — Apa Selanjutnya? Sistem Data untuk Agen, dari Agen, dan oleh Agen
OpenAI
Anthropic
Biaya AI turun drastis: harga output model setingkat GPT-4 telah turun dari $30 menjadi kurang dari $1 per juta token, dan dalam jangka panjang bisa mendekati nol. Ini menghadirkan tiga tantangan baru bagi sistem data: mendesain ulang agar bekerja dengan agen (Sistem Data Untuk Agen), membangun infrastruktur untuk mengelola kawanan agen (Sistem Data Dari Agen), dan mensintesis sistem data yang andal oleh agen itu sendiri (Sistem Data Oleh Agen).
Para penulis dari EPIC Data Lab di University of California, Berkeley menganalisis implikasi dari penurunan biaya inferensi model kecerdasan buatan. Sepanjang tahun lalu, harga inferensi turun dengan faktor 9 hingga 900, dengan median penurunan sekitar 50 kali lipat, sehingga kecerdasan yang cukup untuk sebagian besar tugas kognitif menjadi hampir gratis. Hal ini memunculkan tiga arah untuk sistem data. Pertama, sistem data untuk agen: agen melakukan sejumlah besar pekerjaan, termasuk kueri spekulatif (spekulasi agen), di mana hingga 80-90% sub-kueri bersifat redundan, menawarkan peluang optimasi—seperti penggunaan kembali hasil dan optimasi multi-kueri. Kedua, sistem data dari agen: diperlukan infrastruktur untuk mengelola ribuan agen—memori terstruktur (bukan file Markdown yang tidak terstruktur), koordinasi, dan resolusi konflik untuk perubahan yang bersamaan. Ketiga, sistem data yang diciptakan oleh agen: agen dapat mensintesis seluruh sistem data dengan cepat, tetapi kebenarannya harus diverifikasi. Para penulis membahas konsep memori terstruktur untuk agen, di mana memori diorganisir berdasarkan atribut (misalnya, modul, bahasa, operasi), serta masalah pengeditan kolaboratif dan kebuntuan langsung (livelock) ketika beberapa agen bekerja secara simultan.
Sumber: BAIR (Berkeley AI) —
asli
