Agen AI menembus parit CUDA Nvidia selama 20 tahun dalam 10 jam

Jeremy Nixon, pendiri startup perangkat lunak AI Infinity dan mantan peneliti Google Brain, mengungkapkan bahwa agen AI timnya, Ignition, hanya menghabiskan waktu 10 jam untuk membangun perangkat lunak mirip CUDA untuk startup chip AI d-Matrix. Ignition menghasilkan kernel GPU, menjalankan tes, menemukan kesalahan, mengukur kinerja, dan menulis ulang kode secara otomatis, dengan manusia memberikan arahan tingkat tinggi. Berita ini menyoroti bahwa meskipun pelatihan model AI masih sangat bergantung pada CUDA, pasar inferensi menjadi medan pertempuran di mana dominasi CUDA lebih lemah. Perusahaan seperti d-Matrix, Rebellions, dan Cerebras menargetkan celah ini. Namun, para ahli memperingatkan bahwa 10 jam kode yang dihasilkan tidak setara dengan 20 tahun ekosistem CUDA, pustaka, dan alat verifikasi. Bing Xu, pendiri INT21, mencatat bahwa verifikasi adalah hambatan terbesar, bukan pembuatan kode. Chris Lattner dari Modular mengatakan bahwa agen pengkodean membawa peningkatan bertahap dan hype-nya berlebihan. Nvidia juga menggunakan agen AI untuk mengembangkan CUDA lebih cepat, jadi perlombaan tergantung pada apakah pesaing dapat mengejar lebih cepat daripada iterasi Nvidia.