Agen AI Bisa Membangun Pesaing CUDA, Tapi Nvidia Tidak Berdiam Diri

Keunggulan Nvidia tidak hanya terletak pada akselerator GPU-nya, tetapi juga pada platform perangkat lunak CUDA, yang mencakup kode siap pakai untuk tugas-tugas AI umum, alat debugging, dan aplikasi yang memungkinkan ribuan chip bekerja sama selama pelatihan model. Keterikatan mendalam CUDA dalam jutaan baris kode dan alur kerja menciptakan efek lock-in yang kuat, membuat alternatif menjadi mahal dan sulit diadopsi. Misalnya, dokumen internal Amazon menyebut CUDA sebagai hambatan utama dalam mengadopsi chip AI mereka, Trainium dan Inferentia. Namun, beberapa pakar berpendapat bahwa AI dapat mengotomatisasi pembuatan perangkat lunak sistem, sebuah tugas yang secara historis sulit. Jeremy Nixon, mantan peneliti Google Brain dan pendiri startup perangkat lunak AI Infinity, mengatakan perusahaannya menggunakan agen AI untuk membangun perangkat lunak mirip CUDA untuk D-Matrix hanya dalam 10 jam, menunjukkan bahwa hambatan untuk meninggalkan Nvidia ini dapat diatasi. OpenAI dan Anthropic juga telah menunjukkan model AI yang mampu menghasilkan perangkat lunak sistem, dan pendiri DeepSeek, Liang Wenfeng, mengatakan agen AI, bersama dengan bahasa pemrograman milik startupnya, TileLang, telah secara signifikan menyederhanakan pembuatan perangkat lunak AI. Nvidia menanggapi bahwa pengembang semakin banyak menggunakan pustaka kode CUDA untuk aplikasi AI dan bahwa mereka juga menggunakan agen AI perangkat lunak untuk mempercepat pengembangan dan verifikasi CUDA. Perusahaan mencatat bahwa seiring AI beralih ke beban kerja inferensi dan agen, kebutuhan akan optimasi penuh-stack yang mendalam meningkat, meningkatkan nilai perangkat keras dan perangkat lunak terintegrasi mereka. Namun, Bing Xu, pendiri startup perangkat lunak AI INT21, mengatakan ekosistem dewasa CUDA dengan alat verifikasi dan fitur lainnya membantu agen pemrograman bekerja lebih efisien, menjadikannya penghalang pertahanan berikutnya. Agen dapat menghasilkan banyak kode dengan cepat, tetapi verifikasi adalah hambatannya, katanya. Meskipun AI dapat membantu pesaing mengejar ketertinggalan, Nvidia juga mendapatkan manfaat dari kemajuan teknologi yang sama, tambah Xu, mencatat bahwa pembuat chip tersebut tidak tidur. CEO Modular, Chris Lattner, mencatat bahwa menulis kode hanyalah sebagian kecil dari pengembangan perangkat lunak dibandingkan dengan tugas-tugas yang lebih sulit seperti optimasi untuk penggunaan industri.