Membangun Lingkungan Perusahaan untuk Agentic AI

Intel menjalankan ribuan eksperimen beban kerja AI agentik dan merumuskan lima pelajaran bagi para pemimpin perusahaan. Mereka berpendapat bahwa AI agentik adalah masalah sistem yang lebih besar, bukan sekadar inferensi, dan sebagian besar alat pengukur yang ada saat ini tidak mengukur kinerja sistem secara keseluruhan. Kapasitas harus direncanakan menggunakan densitas agen per vCPU, bukan jumlah agen. Pemantauan latensi tugas agen (P95) lebih informatif daripada rata-rata utilisasi CPU. Sistem yang menghosting agen sebaiknya default ke skala keluar (scale-out), dengan menyisihkan skala naik (scale-up) untuk beban kerja yang membutuhkan komputasi per agen yang lebih berat. Intel memperluas Terminal-Bench untuk mengukur tolok ukur beban kerja AI agentik, menggunakan rekam-putar deterministik respons LLM untuk memisahkan kinerja agen dari variabilitas LLM. Campuran tugas mencakup kompilasi, pengujian, operasi basis data, dan lainnya. Penerapan AI agentik harus berlangsung dalam tiga fase: rencanakan berdasarkan densitas agen, adopsi observabilitas baru yang berfokus pada latensi P95, dan lakukan skala keluar secara default. Artikel ini juga mengidentifikasi persona perusahaan untuk AI agentik: pemimpin yang bertanggung jawab yang meningkatkan waktu siklus, produktivitas, dan manajemen biaya.